Read this article in English / อ่านบทความนี้ใน ภาษาอังกฤษ

บ่อยครั้งการแปลภาษาอังกฤษจากแหล่งความรู้ต่างๆ มักไม่ง่ายนักและไม่สามารถแปลได้แบบตรงๆ โดยเฉพาะเมื่อศัพท์เทคนิคเหล่านั้นเกี่ยวกับทางด้านเทคโนโลยีดิจิทัล ความหมายของศัพท์นั้นๆ จึงแปลแบบตรงตัวตามที่ปรากฏในภาษาอื่นๆ ไม่ได้ อย่างไรก็ดี ได้ปรากฏว่ามีความต้องการงานแปลงานทางเทคนิคเช่นนี้เพื่อเป็นประโยชน์ในการเผยแพร่ความรู้แก่ผู้ที่สนใจในภูมิภาคของเราซึ่งมีความหลากหลายทั้งภาษาและวัฒนธรรม

จากที่ได้มีการแปลบทความ “วิธีรักษาความปลอดภัยในโลกออนไลน์ 101” ในหลายๆ ภาษา รวมทั้งการแปลเป็นภาษาจีนมาแล้วในอดีต ซึ่งจริงๆแล้วการแปลบทความนี้เป็นผลงานของมูลนิธิ Open Culture Foundation (OCF) ในประเทศไต้หวันซึ่งเป็นส่วนหนี่งของชุมชน Coconet ของเรา

หลังจากนั้นเราได้เลือกแปลบทความทั้งสามชิ้นที่เกี่ยวกับสถานการณ์ของ AI ในภูมิภาคเอเชียตะวันออกเฉียงใต้ที่เขียนโดย Jun-E Tan และแปลเป็นภาษาไทย โดย ธีรดา ณ จัตุรัส ผู้ที่ยินดีอาสาสมัครมาช่วยแปลบทความในซีรี่ย์ที่เกี่ยวกับ AI ซึ่งปัจจุบันธีรดาทำงานเป็นที่ปรึกษาทางด้านการวางแผนนโยบายทางด้านการศึกษาของ UNESCO Paris หลังจากจบการศึกษาทางด้านการสื่อสารดิจิทัล ด้วยปริญญาปรัชญา (MPhil in Digital Communications) จากมหาวิทยาลัย University of Westminster ในลอนดอน

ข้อความด้านล่างนี้เป็นความเห็นจากธีรดา เกี่ยวกับประสบการณ์ในการแปลจากไทยเป็นอังกฤษของบทความ AI ชุดนี้

ธีรดา ยังได้อธิบายเพิ่มเติมถึงความจำเป็นในการเพิ่มแหล่งความรู้ที่เกี่ยวกับ AI และ Machine Learning ในภาษาอื่นๆ ที่นอกเหนือไปจากภาษาอังกฤษเพื่อการเผยแพร่ความรู้ในภูมิภาคนี้ “ไม่ว่าจะเป็นผู้ที่คิดต่างทางการเมือง ผู้ลี้ภัย บุคคลที่มีความต้องการช่วยเหลืออย่างเป็นพิเศษ เด็กผู้หญิง ผู้หญิง และชนกลุ่มน้อยต่างๆ ที่ขาดความชำนาญทางภาษาอังกฤษควรที่จะได้เข้าถึงข้อมูลที่เกี่ยวกับความสำคัญในการรักษาความเป็นส่วนตัวบนโลกออนไลน์ และสิทธิทางดิจิทัล (digital rights) ในภาษาของตน ซึ่งการรู้สิทธิต่างๆ เหล่านี้ก็จะช่วยให้พวกเราสามารถลุกขึ้นปกป้องสิทธิของตนเองจากการละเมิดสิทธิโดยรัฐ และบริษัทเทคโนโลยีทั้งหลาย”

ขอบคุณธีรดาที่อาสาช่วยแปลงานเป็นภาษาไทย และสำหรับผู้ที่สนใจเป็นอาสาสมัครแปลบทความเป็นภาษาต่างๆ สามารถติดต่อทีมงานเรา เพื่อสอบถามข้อมูลเพิ่มเติมได้

ไปที่การแปลภาษาไทย

It has been two months since the World Health Organization (WHO) declared the COVID-19 pandemic a global health emergency. Many governments have resorted to digital measures to supplement response efforts. Privacy International has been tracking such digital surveillance, which have so far included the following measures:

• Using cellphone and geolocation data to track and stop the movement of suspected carriers
• Collecting Internet of Things (IoT) devices, CCTV footage, and drone data for additional tracking
• Using artificial intelligence and facial recognition technology to locate suspected cases
• Mandating potential carriers to prove they are undergoing quarantine by taking photos through a selfie app

More importantly, COVID-19 has raised some serious questions: Can privacy and public health security go hand in hand? Is it enough to use safeguards such as transparency and the use of intrusive technology only when absolutely necessary?

We’ll look at how some countries are answering these questions and see if Thailand can do the same.

What digital solutions have other countries done?

Technology has become a crucial part of the COVID-19 response. We are also seeing a collaboration between the public and private sectors to develop digital solutions to the public health emergency.

In South Korea, Taiwan, and Singapore, efficient government responses to COVID-19 all depended on technology, supporting other well-planned measures, to deliver swift assistance to their citizens. On top of providing adequate COVID-19 testing kits, these measures succeeded because their citizens cooperated. But to reach that point, the government must cultivate trust with their citizenry.

Privacy and health security: Can’t we have both?

Regardless of whether you trust your government with your data, there still remains the challenge of protecting public interest while protecting individual privacy during a public health crisis. Whether it’s collecting or publishing, personal health information is sensitive data. But in a crisis, ensuring public health is also essential.

But this in no way means that the government or the press have to reveal detailed personal data that’s irrelevant to stopping the virus’ spread. Governments should uphold the principle of data minimisation, identifying clear time-frames for data collection, and ensuring that collection is only to control the spread of the coronavirus. Insensitive collection and publishing of personal data might lead to stigma against those with COVID-19, and even patients under investigation.

One good recommendation to follow comes from the Electronic Frontier Foundation. In Thailand, WHO has come out with guidelines to prevent and deal with social stigmatization.

The bottom line is this: If the government cannot create trust and safety for the people, some citizens might conceal their infection to avoid discrimination and stigmatisation. This could lead to people avoiding screenings and testings, which will then lead to more, not less, infections.

Under certain circumstances, rights to privacy may be compromised for the public good. But protecting individual privacy, too, is essential to public interest.

Public health surveillance can be done for the planning, implementation, and evaluation of public health practice. In 2017, WHO published its guidelines on ethical issues in public health surveillance. The guidelines notably do not mention much on digital monitoring and collection of data, or even the use of individual digital data for purposes other than public health.

Security or privacy: What do the Thais have?

In various situations, one problem with privacy in the digital era is that we are not aware of being tracked in the first place. We do not know how much our data has been and is being collected.

With these three platforms, there is a risk that too much personal data is being collected. AOT Airports, for example, asks for information that may be irrelevant to tracking COVID-19 cases, such as all third-party accounts from Google to Line. This data is also at risk of being shared with third parties outside the government, such as private tourism and trading agencies.

We must therefore pay very close attention: What personal data is being collected? Is it relevant to public health interest? Who has access to the data? Where do we draw the line, especially between what’s public and what’s private?

What will the world after coronavirus look like?

It is important to note that enforcement of severe measures is not the only way to make citizens follow the government’s instructions. Instead, creating trust and communicating transparently are the true keys to crisis management.

In the time of COVID-19, we have to change the question. Instead of asking whether health security and privacy can go hand in hand, we must ask: How can we prioritise both without sacrifice one for the other?

Otherwise, privacy and other human rights – both online and offline – will suffer in the long run.

“ความมั่นคง(ทางสุขภาพ)” และ “ความเป็นส่วนตัว” ไปด้วยกันได้ ?

เป็นเวลาครบสองเดือนที่ทางองค์การอนามัยโลก (WHO) ประกาศให้การแพร่ระบาดของไวรัสโควิด-19เป็นภาวะฉุกเฉินระดับโลก วิกฤติครั้งนี้สะท้อนให้เห็นหลายแง่มุมของการรับมือของแต่ละรัฐบาลและการเลือกนำเทคโนโลยีดิจิทัลมาใช้ โดยองค์กร Privacy International ได้เก็บรวบรวมข้อมูลการใช้เทคโนโลยีติดตามสอดส่องของรัฐบาลทั่วโลกในช่วงการระบาดของไวรัสโควิด-19 ตัวอย่างเช่น

• • การติดตั้งระบบติดตามกลุ่มบุคคลที่อาจติดเชื้อโควิด-19 ผ่านข้อมูลตำแหน่งที่อยู่จากโทรศัพท์แบบเรียลไทม์ที่หลายประเทศกำลังใช้อยู่ ตั้งแต่กลุ่มประเทศในเอเชียไปจนถึงหลายประเทศในยุโรป
  • การเก็บข้อมูลการใช้งานอุปกรณ์ที่เชื่อมต่ออินเตอร์เน็ต หรือ Internet of Things (IoT), CCTV, โดรน
  • การใช้ AI และเทคโนโลยีการจดจำใบหน้าเพื่อวิเคราะห์และระบุกลุ่มผู้ติดเชื้อได้อย่างรวดเร็ว
  • การติดตั้งแอปพลิเคชันรายงานตัวบนสมาร์ทโฟน รวมไปถึงการบังคับให้ถ่ายรูปเซลฟี่รายงานตัวเป็นประจำในช่วงกักตัว เช่น ประเทศโปแลนด์

ข้อถกเถียงสำคัญของการใช้เทคโนโลยีสอดส่องเพื่อควบคุมการแพร่ระบาดของไวรัสในโลกยุคดิจิทัล นำมาสู่คำถามที่ตอบยาก ถ้าต้องเลือกระหว่าง “ความเป็นส่วนตัว” หรือ “ความมั่นคงทางสุขภาพ” แต่เป็นไปได้แค่ไหนถ้าทั้งคู่จะอยู่ร่วมกันในภาวะวิกฤตินี้ หลักการและเหตุผลใดเพียงพอที่จะทำให้เรารักษาทั้งประโยชน์สาธารณสุขส่วนรวม และสิทธิความเป็นส่วนตัว บทเรียนจากประเทศไหนพอจะทำให้ไทยเรียนรู้ได้บ้างในวิกฤติฉุกเฉินครั้งนี้

ทางออกวิกฤติที่สำเร็จของประเทศฝั่งเอเชีย

บทบาทของเทคโนโลยีกลายเป็นหนึ่งใน “ทางออกสำคัญ” เพื่อรับมือโรคระบาดครั้งนี้ของหลายรัฐบาลทั่วโลก และเรายังเห็นความร่วมมือระหว่าง “ภาครัฐ” และ “ภาคเอกชน” ที่ช่วยกันพัฒนาเครื่องมือและแพลตฟอร์มทางดิจิทัล “เฉพาะกิจ” เพื่อรับมือวิกฤติเฉพาะหน้าอย่างเร่งด่วน

เกาหลีใต้ ไต้หวัน และสิงคโปร์ กลายเป็นบทเรียนความสำเร็จที่ควบคุมการแพร่ระบาดไวรัสโควิด-19 ได้ดีและมีประสิทธิภาพกว่าหลายประเทศในขณะนี้ ต่างมีปัจจัยเทคโนโลยีอยู่เบื้องหลัง แต่หลายประเทศที่รับมือวิกฤติได้ดีนั้นยังมีการวางแผนรับมืออย่างรอบด้านและการบริหารจัดการช่วยเหลือประชาชนที่รวดเร็วและเด็ดขาด ทั้งความพร้อมของจำนวนชุดเครื่องตรวจหาเชื้อโควิด-19 การสื่อสารต่อสาธารณะด้วยข้อมูลอย่าง “โปร่งใส” และชี้แจงมาตรการอย่าง “ชัดเจน” ถือเป็นปัจจัยหลักช่วยให้ประชาชน “มีความไว้ใจ” และปฏิบัติตามมาตรการของรัฐบาล

บทเรียนของ “เกาหลีใต้” สะท้อนให้เห็นความสำคัญของทั้งการปกป้อง “ความเป็นส่วนตัว” และ “มาตรการควบคุมการแพร่ระบาดของไวรัส”

ทั้ง “ความเป็นส่วนตัว” กับ “ความมั่นคงทางสุขภาพ” จะอยู่ร่วมกันได้ไหม

อีกหนึ่งความท้าทายในสถานการณ์เช่นนี้ ที่ต้องรักษาประโยชน์สาธารณสุขส่วนรวม ขณะเดียวกันต้องปกป้องความเป็นส่วนตัวของประชาชน เพราะข้อมูลของประชาชนเกี่ยวกับเรื่องสาธารณสุขเป็นข้อมูลที่มีความอ่อนไหวสูง ทั้งในการเก็บรักษาและการเปิดเผยต่อสาธารณะ แต่ในภาวะวิกฤติเช่นนี้ ทางเลือกเพื่อรักษาชีวิตและสุขภาพของประชาชนย่อมเป็นสิ่งสำคัญ การติดตามและบันทึกประวัติของบุคคลผู้ติดเชื้อจึงมีเหตุผลสมควรต่อมาตรการควบคุมโรคของหน่วยงานสาธารณสุข

แต่นั่นก็ไม่ได้หมายความว่า เจ้าหน้าที่รัฐหรือสื่อมวลชนจำเป็นต้องเปิดเผยข้อมูลส่วนบุคคลของผู้ติดเชื้อโควิด-19 อย่างละเอียดต่อสาธารณะหรือข้อมูลที่ไม่เกี่ยวกับการควบคุมไวรัส และไม่ควรเก็บข้อมูลแบบหว่านแห แต่รัฐควรยึดหลักการจัดเก็บเฉพาะข้อมูลที่จำเป็น (Data Minimization) กำหนดกรอบระยะเวลาชัดเจน มีความโปร่งใสในขั้นตอนและวัตถุประสงค์ที่จัดเก็บต้องเป็นไปเพื่อควบคุมแพร่ระบาดของไวรัสโควิดเท่านั้น เพราะความสะเพร่าในการเก็บข้อมูลส่วนบุคคลและการเปิดเผยต่อสาธารณะอาจนำไปสู่ปัญหาการตีตราทางสังคม (social stigma) ของผู้ติดเชื้อโควิดและกลุ่มเฝ้าระวัง

โดยทาง WHO ออกแนวทางปฏิบัติเพื่อป้องกันและแก้ปัญหาการตีตราทางสังคม และ The Electronic Frontier Foundation มีคำแนะนำสำหรับผู้กำหนดนโยบายในเรื่องการเก็บข้อมูลและติดตามทางดิจิทัลไว้ใน Protecting Civil Liberties During a Public Health Crisis

เพราะหากรัฐบาลไม่สามารถสร้างความเชื่อใจและความรู้สึกปลอดภัยให้ประชาชนได้ อาจทำให้ประชาชนเลือกปกปิดอาการเจ็บป่วยเพื่อหลีกเลี่ยงการเลือกปฏิบัติ หรือถูกรังเกียจ หรือถูกตีตราทางสังคม สภาพเช่นนี้จะบีบคั้นให้ประชาชนหลีกเลี่ยงการคัดกรอง การตรวจ และการกักตัว นั่นอาจทำให้การแพร่ระบาดของไวรัสมากขึ้น ไม่ใช่น้อยลง

แม้ว่าบางสถานการณ์ สิทธิความเป็นส่วนตัวจะถูกจำกัดเพื่อผลประโยชน์สาธารณะได้ แต่ขณะเดียวกันการรักษาความเป็นส่วนตัวของบุคคลก็ยังมีความสำคัญต่อปกป้องผลประโยชน์สาธารณะเช่นกัน

การเฝ้าระวังทางสาธารณสุขและโรคระบาดเป็นเรื่องกระทำได้ เพื่อช่วยในการวางแผนควบคุมทางสาธารณสุข โดยเมื่อปี 2017 ทางองค์การ WHO ได้ออก Guidelines on Ethical Issues in Public Health Surveillance เพื่อเป็นกรอบจริยธรรมในการปฏิบัติงาน แต่ในรายงานฉบับนี้ยังไม่ได้กล่าวมากนักถึงการเก็บข้อมูลทางดิจิทัลและความกังวลเรื่องการใช้ข้อมูลดิจิทัลของประชาชนเพื่อวัตถุประสงค์อื่นนอกเหนือจากเฝ้าระวังทางสาธารณสุข

คนไทยมีอะไร: ความมั่นคง(ทางสุขภาพ) และ ความเป็นส่วนตัว

ทั้งสามแพลตฟอร์มจำเป็นต้องจัดเก็บข้อมูลส่วนตัวของผู้ใช้มหาศาลในช่วงเวลานี้ และต้องระมัดระวังในการดูแลความเสี่ยงเรื่องความเป็นส่วนตัว เช่น เมื่อดูรายละเอียดของแอปฯ AOT Airports อาจเสี่ยงที่จะเก็บข้อมูลส่วนบุคคลของผู้ใช้งานมากเกินความจำเป็น ข้อมูลบางประเภทที่ให้กรอกไม่เกี่ยวกับการติดตามโรคระบาด และมีความกังวลว่าข้อมูลส่วนตัวของผู้ใช้งานจะถูกนำไปแชร์กับบุคคลที่สาม เพราะผู้ใช้งานต้องให้ยอมรับเงื่อนไขใน “ข้อกำหนดการใช้งานและนโยบายความเป็นส่วนตัว” ของแอปฯ

หลังจากนี้เรายังคงต้องคอยติดตามว่า รัฐบาลจะเพิ่มการมาตรการบังคับใช้แอปพลิเคชันหรือเทคโนโลยีติดตามตัวภายใต้ พ.ร.ก.ฉุกเฉินฯ อย่างไร และช่วยกันตรวจสอบว่าเราถูกเก็บข้อมูลส่วนตัวใดบ้างที่ไม่เกี่ยวข้องกับผลประโยชน์ทางสาธารณสุขของประชาชน ใครบ้างที่เข้าถึงข้อมูลเหล่านั้น รวมไปถึงขอบเขตอำนาจและความสัมพันธ์ของรัฐกับภาคเอกชนหลังจากนี้

โลกหลังวิกฤติโควิด-19 จะเป็นเช่นไร

การบังคับใช้มาตรการที่มีบทลงโทษที่รุนแรงไม่ได้เป็นทางเดียวที่ทำให้ประชาชนปฏิบัติตามแนวทางของรัฐ แต่การสร้างความเชื่อมั่นในมาตรการที่โปร่งใส และสื่อสารข้อเท็จจริงกับประชาชนอย่างชัดเจนต่างหากที่ถือเป็นกุญแจสำคัญในการจัดการภาวะวิกฤติเช่นนี้

ในสถานการณ์วิกฤติทางสาธารณสุขที่ยังไม่ผ่านพ้นไป เราอาจต้องเปลี่ยนจากคำถามที่ว่า ถ้าต้องเลือกระหว่าง “ความมั่นคงทางสุขภาพ” หรือ “ความเป็นส่วนตัว” มาเป็นคำถามว่า เราจะทำอย่างไรให้ทั้งสองความสำคัญอยู่ร่วมกันได้

เพราะไม่เช่นนั้น ความเป็นส่วนตัว สิทธิ เสรีภาพของเรา ทั้งออนไลน์ และออฟไลน์ จะไม่คืนกลับมา แม้สถานการณ์จะคืนสู่ภาวะปกติแล้วก็ตาม

Darika Bamrungchok is a Digital Rights Manager (Mekong) at EngageMedia, based in Bangkok. She leads a digital rights and digital safety program in Thailand, and is interested in technology and human rights under modern authoritarian regimes.

ดาริกา บำรุงโชค ปัจจุบันทำงานในตำแหน่งผู้จัดการโครงการสิทธิดิจิทัลขององค์กร EngageMedia ประจำประเทศไทย เธอดูแลโครงการเกี่ยวกับสิทธิดิจิทัลและความปลอดภัยทางดิจิทัลในประเทศไทยและกลุ่มประเทศลุ่มแม่น้ำโขง มีความสนใจเป็นพิเศษในประเด็นเกี่ยวกับเทคโนโลยีกับสิทธิมนุษยชน

The context of how artificial intelligence (AI) affects our rights as digital natives is worth unpacking, especially during political and public health crises, where online communication is a lifeline for many, and citizens are possibly being subjected to government surveillance and manipulation.

This is especially important when the crisis is of life-and-death importance, like the ongoing Covid-19 pandemic.

With this, EngageMedia worked with Dr. Jun-E Tan, an independent researcher and digital rights expert based in Kuala Lumpur, to unpack how AI plays out for the good — through improving public services and quality of life — and how it can be used by bad actors: to attack political, economic, and cultural rights of citizens, sometimes without them even knowing.

The collaboration resulted in several outputs: a blog post about how AI is tackled during Coconet II: Southeast Asia Digital Rights Camp, a three-part series on AI and human rights in Southeast Asia, and a video wrapping up the discourse for the whole engagement.

AI and Human Rights Video

Produced by EngageMedia, the video athe the top provides an overarching feature of issues on AI, human rights, and its Southeast Asia context, summarizing the issues raised by this series on AI and Human Rights.

Featuring interviews from Dr. Jun-E Tan and Red Tani of EngageMedia, it was shown during the Myanmar Digital Rights Forum on Feb. 28 and 29, 2020, an event attended by more than 350 participants from government, business, and civil society. You can read our blog about the forum here.

The video highlights how AI issues relate to the context of Southeast Asia, particularly recent political movements against authoritarian regimes, as well as other social issues that are susceptible to online hijacking, through manipulation of online narratives and surveillance of dissenters.

AI and Human Rights in Coconet II

Prior to the production of the AI and Human Rights video, discussions about AI and its human rights implications actually started at Coconet II.

After the weeklong camp, Dr. Tan wrote about the learnings from the event, encapsulating how she started the camp with the assessment that AI is a subject of concern for digital rights activists, but is something that they want to learn on a much deeper level, to how Coconet II provided focus on AI and human rights.

This also served as the prelude for the three-part article series on AI and human rights in Southeast Asia, which she briefly mentioned in the blog as well.

You can read the full blog here.

3-part series about AI and Human Rights in Southeast Asia

Next up in the collaboration is the three-part article series on AI and its implications to civil, social, economic, cultural, and political rights in Southeast Asia.

It unpacked topics like digital authoritarianism through AI, underrepresentation in AI datasets, socioeconomic impacts of AI, and participation in AI governance through careful curation of recent related studies and publications.

You can check the first part of the series published in the Coconet social website here. The article was picked up for syndication by a Philippine news website and network sharing by Coconet members.

The second part of the series then zoomed in on the impact of AI in the economic, social, and cultural rights (ESCR) of citizens from Southeast Asia.

It first presented the possible benefits of AI in the development sector. “AI, when used strategically and appropriately, can provide immense developmental benefits. Economic growth is a much-touted benefit, but possibilities of AI to improve lives extend much further,” wrote Dr. Tan. This includes benefits in education, healthcare, traffic, and food security.

The article then elaborates the possible abuse of AI to interfere with economic, social, and cultural rights, especially on possibly worsening and even optimising inequality through undue bias in AI data and the system itself.

Read the second article in full via the Coconet social website here, and feel free to check out the republished article via Daily Guardian Philippines as well.

And lastly, the third article of the series focused on AI as a weapon against civil and political rights, which takes “a closer look on what can happen when AI is weaponised and used against civil and political rights (CPR) such as the right to life and self-determination, as well as individual freedoms of expression, religion, association, assembly, and so on.”

It tackled the use of AI for government surveillance, microtargeting to change voter behaviour, and the use of AI-generated content to fuel disinformation campaigns.

And lastly, the third article of the series focused on AI as a weapon against civil and political rights, which takes “a closer look on what can happen when AI is weaponised and used against civil and political rights (CPR) such as the right to life and self-determination, as well as individual freedoms of expression, religion, association, assembly, and so on.”

It tackled the use of AI for government surveillance, microtargeting to change voter behaviour, and the use of AI-generated content to fuel disinformation campaigns.

Daily Guardian Philippines syndicated the last part of the series and published it during their Mar. 6, 2020 print edition, and republished it online as well. You may also check the version published on the Coconet social website here.

More AI resources in development

Through collaboration with the Coconet community, Dr. Tan has complied two helpful resources: a mapping of AI issues across the region, and a list of relevant resources for those who want to learn more about such issues. We will update this post once these pages are ready.

Vino Lucero is a Project and Communications Officer at EngageMedia. He is a journalist based in Manila.

Members of the Coconet community took part in the fourth Myanmar Digital Rights Forum (MDRF), which focused on the importance of digital rights in the face of disinformation, internet shutdowns, and emerging technologies.

Held on Feb. 28 and 29, 2020, at the Rose Garden Hotel in Yangon, the MDRF was organised by Phandeeyar, Myanmar ICT for Democracy Organisation (a partner during Coconet II), Myanmar Centre for Responsible Business (MCRB), and Free Expression Myanmar. This year’s conference hosted over 350 attendees and speakers from government, businesses, and civil society, making it the largest digital rights forum in Southeast Asia.

On the first day of MDRF, the Coconet community also joined a worldwide social media campaign calling for the lifting of the internet shutdown.

Other important issues surrounding digital rights that were discussed during the event were:

Members of the Coconet community who attended either or both Coconet camps also served as speakers and panellists at the conference, sharing personal experiences on topics related to digital rights. Wu Min Hsuan shared examples from Taiwan on the digital risks during elections. Gaya Khandhadai of the Association for Progressive Communications shared how she was targeted online based on her gender and religion. Witness.org, also a Coconet partner, talked about deepfakes and how this affects Southeast Asia.

Find out more about what transpired at MDRF by following the hashtags #digitalrightsMM and #MDRF2020.

Sara Pacia is the Communications and Engagement Coordinator of EngageMedia. A journalist by training and multimedia storyteller at heart, she is passionate about utilising and appropriating today’s digital technologies for the empowerment of the public and the improvement of media and data literacy.

Read this Article in Thai / อ่านบทความนี้ใน ภาษาไทย

Translated into Thai by Teerada Na Jatturas
(To read the Thai version, click the flag icon in the upper right-hand corner of your screen.)

This is the third of a series of articles on the human rights implications of artificial intelligence (AI) in the context of Southeast Asia. In the last article, we had discussed the implications of AI on economic, social, and cultural rights, driving home the point that AI does yield developmental benefits, if it is implemented properly. The human rights concerns were more on AI safety and unintended consequences.

In this article, we are going to take a closer look on what can happen when AI is weaponised and used against civil and political rights (CPR) such as the right to life and self-determination, as well as individual freedoms of expression, religion, association, assembly, and so on.

AI used for Government Surveillance

Privacy is a fundamental human right, and the erosion of privacy impacts on other civil freedoms such as free expression, assembly, and association. In Southeast Asia, where most countries tilt towards the authoritarian side of the democratic spectrum, governments have shown that they can go to great lengths to quench political dissent, such as wielding draconian laws or using extralegal measures to intimidate dissenters.

With machine learning that can sift through mountains of data collected inexpensively and make inferences that were previously invisible, surveillance of the masses becomes cheaper and more effective, making it easier for the powerful to stay in power. 

The table below is adapted from the AI Global Surveillance Index (AIGS 2019), extracting the seven Southeast Asian countries covered (with no data on Brunei, Vietnam, Cambodia, and Timor Leste). It shows that most countries within the region use two or more types of surveillance technologies in the form of smart/safe city implementations, facial recognition, and smart policing; and all of these countries use technologies imported from China, and to a lesser extent from the US as well.

To provide a wider context, at least 75 out of 176 countries covered in the AIGS 2019 are actively using AI for surveillance purposes, including many liberal democracies. The index does not differentiate between legitimate and unlawful use of AI surveillance. Given the context of Southeast Asia, civil society in the region might want to err on the side of caution.

A CSIS report points out that Huawei’s “Safe City” solutions are popular with non-liberal countries, and sounds the concern that China may be “exporting authoritarianism”. China itself has used facial recognition (developed by Chinese AI companies Yitu, Megvii, SenseTime, and CloudWalk) to profile and track the Muslim Uighur community—it is also known that close to a million Uighurs have been placed in totalitarian “re-education camps”, illustrating the chilling possibilities of human rights violations connected to mass surveillance.

In particular, examples of Vietnam and the Philippines were highlighted in the FOTN report. In 2018, Vietnam “announced a new national surveillance unit equipped with technology to analyse, evaluate, and categorise millions of social media posts”; and in the same year, Philippine officials were trained by the US Army on developing a new social media unit, which reportedly would be used to counter disinformation by terrorist organisations.

Digital surveillance by the government can also cast a wider net outside social media platforms. In 2018, the Malaysia Internet Crime Against Children (Micac) unit of the Malaysian police demonstrated to a local daily its surveilling capabilities of locating pornography users in real-time, and that it built a “data library” of these individuals—a gross invasion of privacy, as pointed out by a statement by some ASEAN CSOs. 

Microtargeting to change voter behaviour

In Southeast Asia, civil society is more vigilant about government surveillance than corporate surveillance. However, the effects of corporate surveillance, especially by big tech companies like Facebook and Google, maybe equally sinister or even more far-reaching when their AI technologies, combined with an unimaginable amount of data, are up for hire to predict and change user behaviour for their advertisers. This is particularly problematic when the advertisers are digital campaigners for political groups looking to change public opinions or voter behaviour, affecting the electoral rights of individuals.

Five years ago, researchers had already found that based on Facebook likes, machines could know you better than anyone else (300 likes were all it needed to know you more than your spouse did, and only 10 likes to beat a co-worker). Since then, there have been scandals such as that of Cambridge Analytica, which illegally obtained the data of tens of millions of Facebook users, which they were able to use to create psychographic profiles from, so that they could micro-target voters with different messaging to swing the votes of the 2016 US presidential election. Similar tactics allegedly influenced the outcomes of the Brexit referendum.

86% of Southeast Asia’s Internet users use Facebook. Within the region, concerns have already arisen regarding microtargeting to influence elections. A report that tracks digital disinformation in the 2019 Philippine midterm election points out that Facebook Boosts (Facebook’s advertising mechanism) are essential for local campaigns because of their ability to reach specific geographical locations. Besides advertising the Facebook pages of official candidates, Facebook Boosts were also used to promote negative content about political opponents. In Indonesia, ahead of the 2019 general elections, experts warned of voter behavioural targeting and voter microtargeting strategies which might exploit personal data of Indonesian voters to change election outcomes.

AI-generated content fuels disinformation campaigns

In the digital era, rumour-mongering becomes much more effective because of the networked nature of our communication. As a result, disinformation or fake news has become a worldwide problem, and in Southeast Asia, the gravest example of possible consequences is the ethnic cleansing of Rohingyas in Myanmar, reportedly fueled by the spread of disinformation and hate speech on social media.

The disinformation economy has flourished within the region. In Indonesia, fake news factories are used to churn out content to attack political opponents and to support their clients. PR companies in the Philippines cultivate online communities and surreptitiously insert disinformation and political messaging with the help of micro and nano influencers. As nefarious actors establish structures to create and profit from disinformation, AI will make content generation much easier and more sophisticated for them.

One of the scariest possibilities of AI-generated content is the so-called “deepfake”, also known as “synthetic media”, which are manipulated videos or sound files which look/sound highly realistic. Deepfakes are already a reality and it is a matter of time (in the matter of months) before they are not discernible from real footage and cheap enough to be produced by any novice. At the moment, they are mainly being used to produce fake pornography of celebrities, but there is a dizzying array of possibilities of how it could be used for creating disinformation. In the region, there is at least one case in Malaysia of a politician claiming his sex video to be a politically motivated deepfake.

The video above gives a good introduction of what deepfakes are, some examples, and why we should be concerned. WITNESS has a good resource pool of articles and videos of deepfakes for those who are interested to dig further.

Another example of what AI is able to do in terms of generating realistic content can be found in the interactive component of this New York Times article —with a click of a button, one can generate commentary on any topic, with any political slant. As can be imagined, the cost of maintaining a cyber army for astroturfing or trolling goes down drastically if machines are used to generate messages that look like they have been written by humans. In a separate report that warns of AI-generated “horrifyingly plausible fake news”, a system called GROVER can generate a fake news article based on only a headline, which can even be customised to mimic styles of major news outlets such as The Washington Post or The New York Times.

The post-truth era has many faces. Lastly, you can have a bit of fun and check out ThisPersonDoesNotExist.com or WhichFaceIsReal.com to see the level of realism in computer-generated photos of human faces, which makes it easy to generate photos for fake social media profiles.

In Conclusion

As has been demonstrated by this article, AI can be, and has been, weaponised to achieve ends that are incompatible with civil and political rights. At the very least, the civil society within the region should invest energy and resources into following technological trends and new applications of AI so that it will not be taken by surprise by innovations from malicious actors. As is the nature of machine learning and AI, it is expected that the efficacy of the technologies will only get better. Civil society and human rights defenders will need to participate in the discussions of AI governance and push for tech companies to be more accountable towards the possible weaponisation of the technologies that they have created, in order to safeguard human rights globally.

Dr. Jun-E Tan is an independent researcher based in Kuala Lumpur. Her research and advocacy interests are broadly anchored in the areas of digital communication, human rights, and sustainable development. Jun-E’s newest academic paper, “Digital Rights in Southeast Asia: Conceptual Framework and Movement Building” was published in December 2019 by SHAPE-SEA in an open access book titled “Exploring the Nexus Between Technologies and Human Rights: Opportunities and Challenges in Southeast Asia”. She blogs sporadically here.

To read more about this series on artificial intelligence in Southeast Asia, you can check out the first part here and the second part here.

Memes have become a fundamental aspect of Internet culture and the native language of social media. With their ability to easily convey a message and to be easily shared, they have been adopted by many movements, especially in the Asia-Pacific. Meme creation is driven by remixing and recontextualizing popular images to create interesting ways of distributing messages. Memes within the context of movements tend to be inherently political. Using political humour on the Internet can contribute to the creation and consolidation of a network of shared meanings which then reframes content from mainstream culture. Humour is a means for politics to be explored and understood.

Memes are a cultural product based on social relations, memories, historic, geographic and economic references as well as specific conjectural aspects. Memes that Internet users post, share, and like best are what they find interesting and humorous, reflect their impression of a topic and affect or sensitize them to a topic. Memes can allow non-elite Internet users to yield influence and make their voices heard. Through this, memes can become a tool for grassroots action in human rights movements as memes can be utilized to spread messages quickly.

To demonstrate this, eight political memes from Southeast Asia will be reflected on.

The meme above utilizes the popular Drake meme format known is Drakeposting. This meme typically has two images of the rapper Drake with one representing that he doesn’t approve of something and the other representing that he does approve. The Drakeposting meme is utilized here to criticize Philippine President Rodrigo Roa Duterte.

This meme has remixed the Drakeposting format by removing the second image of Drake. This was done to convey a particular message. The absence of the second image of Drake is meant to imply that when one was critical of Indonesian brutal military dictator General Suharto, who was in power from 1967 until 1998, they would disappear in some manner.

This is an example of the Cat Drake meme format which has become a popular remixing of the original Drake meme. This meme is criticizing Indonesians for the ongoing conflict in West Papua where the people of West Papua are fighting for their independence from Indonesia. This meme is conveying that though Indonesians are against colonization such as the Dutch colonization of Indonesia, they reject the idea of the Indonesian colonization of West Papua.

This meme takes on a popular format of utilizing a topical cultural image with an overlaid humorous text to make a political statement. This image is of former vice presidential candidate Sandiaga Uno with the current vice president, Ma’ruf Amin, before a national debate showing him paying respect to his elder as culturally dictated by kissing his hand even though he is his competitor.

This meme also uses a culturally relevant image overlaid with text to make a political point. This image, however, has been photoshopped to add different shoes and a communist bandana utilizing the ‘ugly aesthetic’ often used in memes. This meme is commenting on Bong Go – a Filipino politician – stating that students go up into the mountains in the night to work for the communist party.

This meme is less focused on criticizing Duterte and more focused on making fun of him. Using humour this way is a common aspect of political meme culture. This meme was posted in a meme Facebook group soon after a report was released that Duterte had fallen from his motorcycle. Though some might see this meme and think it is supporting Duterte, this meme, in fact, does nothing of the sort.  A reading of or direct knowledge of Psalm 109:8 – “May his days be few; may another take his place of leadership” – is required to fully understand the humour within the multiple layers of context used in this meme.

This is a remixed version of the popular I Am The Senate meme. This meme was remixed to criticize Thailand Prime Minister Prayut Chan-o-cha. Prayut is not only the Prime Minister but he also serves as Thailand’s Defence Minister and head of the Royal Thai Police. Therefore, by repurposing this meme, it is able to criticize Prayut’s overarching control of the government that goes against the will of the people.

This meme comments on the Thai election and a secret parliament vote that resulted in the former Prime Minister Abhisit Vejjajiva quitting parliament after his party – the Democrat Party – voted to join the junta-aligned coalition backing Prayuth Chan-o-cha’s bid to become Prime Minister. The Distracted Boyfriend meme was remixed with photoshopped images to represent the feelings of the citizens. Here, the distracted boyfriend has the Democrat party logo photoshopped on him. He is looking back at another girl with the photoshopped face of Prayuth Chan-o-cha while his upset girlfriend has text over her that reads ‘us citizens’. Through this, a message of feeling ignored by the Democrat party is conveyed.

Carmen Ferri is the Asia policy and countering hate speech intern at the Association For Progressive Communications (APC) and is currently based in the Philippines. Carmen holds an MA in New Media and Digital Culture from the University of Amsterdam and an undergraduate in Liberal Arts: Cultural Studies and Sociology from Maastricht University. Her areas of interest include subculture construction in online spaces, online community building, issue mapping, and online political movements.

Read this Article in Thai / อ่านบทความนี้ใน ภาษาไทย

Translated into Thai by Teerada Na Jatturas
(To read the Thai version, click the flag icon in the upper right-hand corner of your screen.)

This is the second in a series of articles on the human rights implications of artificial intelligence (AI) in the context of Southeast Asia, targeted at raising awareness and engagement of civil society on the topic.

In the previous article, we looked at the definitions of AI and machine learning, and discussed some considerations of their applications in the Southeast Asian context. In this article and the next, we will continue the discussion on potential human rights impacts, from the angles of 1) economic, social, and cultural rights (ESCR), and 2) civil and political rights (CPR). To provide adequate space to unpack the ideas, this article will focus on the first group of rights.

What are economic, social, and cultural rights (ESCR)?

Drawing from the International Covenant of Economic, Social and Cultural Rights (ICESCR), these rights include the rights to health, education, social security, proper labour conditions, quality of life, and participation in cultural life and creative activities. These rights are often considered as positive rights, which require action to fulfil (such as providing opportunities for decent work), as opposed to civil and political rights which require inaction (such as not restricting freedom of expression).

It is important to note that ESCR implications of AI is not a binary “good” or “bad”. Even in the same application, outcomes may differ for different people—some may be impacted positively and some negatively. For example, relying on AI for deciding on credit trustworthiness based on a large pool of data points may benefit the poor with a thin credit profile, as they buy fewer big items and cannot prove that they are trustworthy based on their credit history. However, using data points broader than credit history may discriminate against others based on non-related data points, sometimes in arbitrary ways—an example was given on a certain AI system giving lower points if an applicant typed in all-caps, which is apparently correlated with a higher risk of default.

To structure our discussion, we can look at the implications of AI on ESCR from two angles: 1) the cost of not implementing AI for development, and 2) the cost of implementing it badly.

Developmental benefits of AI

AI, when used strategically and appropriately, can provide immense developmental benefits. Economic growth is a much-touted benefit, but possibilities of AI to improve lives extend much further. Here are some examples of what the technologies can already achieve in Southeast Asia:

However, across the eleven countries of Southeast Asia, the implementation of (and capacity to) implement AI is uneven. This can be illustrated using the AI Government Readiness Index by Oxford Insights and the International Development Research Centre, a ranking of governments according to their readiness to use AI for administration and delivery of services. Singapore tops the world ranking. Six Southeast Asian countries are within the top 100, including Malaysia (22), Philippines (50), Thailand (56), Indonesia (57), and Vietnam (70).

When people depend on technology to access their economic, social, and political life, they are subject to the availability and stability of the technology. As pointed out earlier, the AI divide is there between the haves and the have-nots—those who have limited abilities to build their own technology will have to rely on using technology that may not be built in an accessible manner for them. Accessibility may be considered from many angles. In this culturally rich region that speaks many languages, it is important to cater to all, but such localisation exercises are costly and may not be implemented. Accessibility can also be obstructed by physical or mental disabilities, low education level and digital literacy, or even just a lack of basic infrastructure.

These fundamental issues need to be considered seriously before one jumps into AI solutions.

In Southeast Asia, the fervour for all things AI has led to statements by top leaders promising to apply AI to all sorts of contexts. For example, Indonesia’s President Jokowi announced that his administration would replace some higher-level civil servants with AI, while in Malaysia, the Education Minister announced that machines would provide schoolchildren with career guidance in the future. It is debatable whether these are the most appropriate solutions to problems faced, and any such moves should be preceded by multistakeholder consultations and human rights impact assessments.

It has been noted at forums discussing AI in Asia that governments in the region tend to see AI as a vehicle for economic, rather than social development. It is, therefore, a concern that AI will be used to optimise profit-making for the technology owners at the expense of people and the planet—a scenario not so different from what we have now, but at a faster rate.

In conclusion

In terms of AI impacts on economic, social, and cultural rights, the short answer to the question of whether AI is good or harmful in the Southeast Asian context is, “it depends”. Civil society in the region should understand more and debate about potential benefits and harms, anchored in the challenges and particularities of local contexts.

Will we be uplifting the lives of vulnerable millions with the benefits of AI, or exposing them to systems that will further disempower them? What about their data and associated privacy? The last question will be discussed more in the next article when we talk about AI and civil and political rights.

Dr. Jun-E Tan is an independent researcher based in Kuala Lumpur. Her research and advocacy interests are broadly anchored in the areas of digital communication, human rights, and sustainable development. Jun-E’s newest academic paper, “Digital Rights in Southeast Asia: Conceptual Framework and Movement Building” was published in December 2019 by SHAPE-SEA in an open access book titled “Exploring the Nexus Between Technologies and Human Rights: Opportunities and Challenges in Southeast Asia”. She blogs sporadically here.