คุณเคยโพสต์รูปภาพของตัวเองบนแพลตฟอร์มโซเชียลมีเดียเช่น Facebook, Instagram, Tik Tok และอื่น ๆ หรือไม่? ถ้าเป็นเช่นนั้น อาจถึงเวลาที่ต้องพิจารณาการโพสต์เหล่านั้นใหม่
นี่เป็นเพราะเทคโนโลยีการสร้างภาพ AI ใหม่ช่วยให้ผู้ใช้สามารถบันทึกภาพและเฟรมวิดีโอจำนวนมากของคุณแล้วฝึกให้สร้างภาพปลอมที่ "เหมือนจริง" ซึ่งแสดงภาพคุณในตำแหน่งที่น่าอาย ผิดกฎหมาย และบางครั้งก็ประนีประนอม
ไม่ใช่ทุกคนที่มีความเสี่ยง แต่ภัยคุกคามนั้นมีอยู่จริง
แม้ว่าภาพถ่ายจะมีแนวโน้มอยู่เสมอ การจัดการ และการปลอมแปลงจากยุคของห้องมืดที่ฟิล์มถูกตัดแต่งด้วยกรรไกรและแปะไปจนถึงการโฟโต้ชอปพิกเซลในปัจจุบัน
แม้ว่ามันจะเป็นงานที่น่ากลัวและต้องใช้ทักษะของผู้เชี่ยวชาญในสมัยนั้น แต่ทุกวันนี้การสร้างของปลอมที่เหมือนจริงจนน่าเชื่อได้เกิดขึ้นง่ายเกินไป
ก่อนอื่น โมเดล AI จะต้องเรียนรู้วิธีการเรนเดอร์หรือสังเคราะห์รูปภาพของใครบางคนให้เป็นภาพถ่ายจากโมเดล 2 มิติหรือ 3 มิติผ่านซอฟต์แวร์ เมื่อเรนเดอร์ภาพสำเร็จ ภาพจะกลายเป็นของเล่นสำหรับเทคโนโลยีโดยธรรมชาติ และมีความสามารถในการสร้างภาพจำนวนไม่จำกัด
เมื่อเลือกที่จะแชร์โมเดล AI คนอื่นๆ ก็สามารถเข้าร่วมและเริ่มสร้างภาพของบุคคลนั้นได้เช่นกัน
กรณีศึกษาโซเชียลมีเดีย
อาสาสมัครที่อธิบายว่า "กล้าหาญ" โดย Ars Technicaสื่อสิ่งพิมพ์ด้านเทคโนโลยีซึ่งในตอนแรกอนุญาตให้บริษัทใช้ภาพของเขาเพื่อสร้างของปลอมได้เปลี่ยนใจ
เนื่องจากในเวลาไม่นาน ผลลัพธ์ของภาพที่เรนเดอร์จากโมเดล AI นั้นน่าเชื่อถือเกินไปและทำลายชื่อเสียงมากเกินไปสำหรับอาสาสมัคร
เมื่อพิจารณาถึงความเสี่ยงด้านชื่อเสียงที่สูง จอห์น บุคคลสมมติที่สร้างโดย AI จึงกลายเป็นตัวเลือกโดยธรรมชาติ
จอห์น บุคคลสมมติเป็นครูโรงเรียนประถม ซึ่งเหมือนกับคนอื่นๆ อีกหลายคนที่โพสต์ภาพของเขาบนเฟซบุ๊กในที่ทำงาน พักผ่อนที่บ้าน และในงานดังกล่าว
รูปภาพของ “John” ที่ดูไม่น่ามองส่วนใหญ่ถูกเรนเดอร์และนำไปใช้ในการฝึก AI เพื่อให้เขาอยู่ในตำแหน่งที่ประนีประนอมมากขึ้น
จากภาพเพียงเจ็ดภาพ AI สามารถฝึกฝนให้สร้างภาพที่ทำให้ดูเหมือนว่าจอห์นใช้ชีวิตแบบสองต่อสองและเป็นความลับ ตัวอย่างเช่น เขาปรากฏตัวเป็นคนที่ชอบโพสท่าเปลือยเพื่อเซลฟี่ในห้องเรียนของเขา
ในตอนกลางคืนเขาไปที่บาร์ดูเหมือนตัวตลก
เขาเป็นส่วนหนึ่งของกลุ่มกึ่งทหารหัวรุนแรง
เอไอยังสร้างความประทับใจว่าเขาเคยติดคุกด้วยข้อหาเสพยาเสพติดอย่างผิดกฎหมาย แต่ได้ปกปิดข้อเท็จจริงนี้จากนายจ้างของเขา
ในอีกภาพหนึ่ง จอห์นซึ่งแต่งงานแล้วกำลังยืนเคียงข้างผู้หญิงเปลือยที่ไม่ใช่ภรรยาของเขาในที่ทำงาน
โดยใช้เครื่องกำเนิดภาพ AI ที่เรียกว่า การแพร่กระจายที่เสถียร (เวอร์ชัน 1.5) และเทคนิคที่เรียกว่า Dreambooth ทำให้ Ars Technica สามารถฝึก AI ให้สร้างภาพถ่ายของ John ในสไตล์ใดก็ได้ แม้ว่าจอห์นจะเป็นสิ่งสร้างที่สมมติขึ้น แต่ในทางทฤษฎีใครก็ตามสามารถบรรลุผลลัพธ์ชุดเดียวกันจากภาพห้าภาพขึ้นไป ภาพเหล่านี้สามารถดึงมาจากบัญชีโซเชียลมีเดียหรือนำมาเป็นภาพนิ่งจากวิดีโอ
กระบวนการสอน AI ให้สร้างภาพของ John ใช้เวลาประมาณหนึ่งชั่วโมง และไม่ต้องเสียค่าใช้จ่ายใดๆ ด้วยบริการคลาวด์คอมพิวติ้งของ Google
เมื่อการฝึกเสร็จสิ้น การสร้างภาพใช้เวลาหลายชั่วโมง สื่อเผยแพร่ระบุ และนี่ไม่ใช่เพราะการสร้างภาพเป็นกระบวนการที่ค่อนข้างช้า แต่เนื่องจากจำเป็นต้องรวบรวม "ภาพที่ไม่สมบูรณ์" จำนวนมากและใช้การเรียงลำดับแบบ "ลองผิดลองถูก" เพื่อค้นหาภาพที่ดีที่สุด
การศึกษาพบว่าง่ายกว่ามากเมื่อเทียบกับการพยายามสร้างภาพถ่ายปลอมที่เหมือนจริงของ “John” ใน Photoshop ตั้งแต่เริ่มต้น
ด้วยเทคโนโลยี คนอย่างจอห์นจึงถูกมองว่าทำผิดกฎหมาย หรือทำผิดศีลธรรม เช่น บุกบ้าน ใช้ยาผิดกฎหมาย และเปลือยกายอาบน้ำกับนักเรียน หากโมเดล AI ได้รับการปรับให้เหมาะสมสำหรับสื่อลามก คนอย่างจอห์นสามารถกลายเป็นดาราหนังโป๊ได้ในชั่วข้ามคืน
นอกจากนี้ เราสามารถสร้างภาพว่าจอห์นกำลังทำสิ่งที่ดูเหมือนไม่น่ารังเกียจซึ่งอาจสร้างความเสียหายได้หากเขาแสดงอาการมึนเมาที่บาร์เมื่อเขาให้คำมั่นสัญญาว่าจะไม่สงบเสงี่ยม
มันไม่จบแค่นั้น
บุคคลยังสามารถปรากฏตัวในช่วงเวลาที่เบากว่าในฐานะอัศวินยุคกลางหรือนักบินอวกาศ ในบางกรณี ผู้คนอาจเป็นได้ทั้งเด็กและผู้ใหญ่ หรือแม้แต่แต่งตัว
อย่างไรก็ตามการแสดงผล ภาพ ยังห่างไกลจากความสมบูรณ์แบบ การมองอย่างใกล้ชิดสามารถออกได้ว่าเป็นของปลอม
ข้อเสียคือเทคโนโลยีที่สร้างภาพเหล่านี้ได้รับการอัปเกรดอย่างมาก และอาจทำให้ไม่สามารถแยกความแตกต่างระหว่างภาพถ่ายสังเคราะห์กับภาพถ่ายจริงได้
แม้จะมีข้อบกพร่อง แต่ของปลอมก็ทำให้เกิดเงาแห่งความสงสัยเกี่ยวกับจอห์นและอาจทำลายชื่อเสียงของเขา
ช่วงหลังๆ มานี้ มีคนจำนวนมากใช้เทคนิคเดียวกันนี้ (กับคนจริงๆ) เพื่อสร้างรูปโปรไฟล์ที่ดูแปลกตาและเป็นศิลปะของตัวเอง
บริการเชิงพาณิชย์และแอพต่างๆ เช่น เลนส์ มีดอกเห็ดที่จัดการฝึกอบรม
มันทำงานอย่างไร?
งานของจอห์นอาจดูน่าทึ่งหากไม่มีใครติดตามกระแส ทุกวันนี้ วิศวกรซอฟต์แวร์รู้วิธีสร้างภาพเหมือนจริงแบบใหม่ของทุกสิ่งที่จินตนาการได้
นอกเหนือจากภาพถ่ายแล้ว AI ยังอนุญาตให้ผู้คนสร้างงานศิลปะใหม่ที่คัดลอกผลงานของศิลปินที่มีอยู่โดยไม่ได้รับอนุญาต
ถูกระงับเนื่องจากข้อกังวลด้านจริยธรรม
มิทช์ แจ็กสัน ทนายความด้านเทคโนโลยีของสหรัฐฯ แสดงความกังวลเกี่ยวกับการเพิ่มจำนวนของเทคโนโลยีปลอมในตลาด และกล่าวว่าเขาจะศึกษาผลกระทบทางกฎหมายของเทคโนโลยีในปี 2023 เป็นส่วนใหญ่
"การแยกแยะว่าอะไรจริงอะไรปลอมจะกลายเป็นเรื่องเป็นไปไม่ได้สำหรับผู้บริโภคส่วนใหญ่ในที่สุด”
Adobe มีเทคโนโลยีด้านเสียงที่เรียกว่า Adobe VoCo อยู่แล้ว ซึ่งช่วยให้ทุกคนสามารถส่งเสียงได้เหมือนคนอื่นทุกประการ การทำงานกับ Adobe VoCo ถูกระงับเนื่องจากข้อกังวลด้านจริยธรรม แต่บริษัทอื่นๆ อีกหลายสิบแห่งกำลังปรับปรุงเทคโนโลยีให้สมบูรณ์แบบ โดยเสนอทางเลือกอื่นในปัจจุบัน ลองดูหรือฟังด้วยตัวคุณเอง” Mitchum กล่าวว่า.
รูปภาพและวิดีโอของวิดีโอปลอมเชิงลึกนั้นดีขึ้นเรื่อยๆ เขากล่าว
“บางครั้ง เป็นไปไม่ได้เลยที่จะแยกแยะวิดีโอปลอมออกจากวิดีโอจริง” เขากล่าวเสริม
Stable Diffusion ใช้โมเดลการสังเคราะห์รูปภาพที่มีการเรียนรู้เชิงลึกซึ่งสามารถสร้างรูปภาพใหม่จากคำอธิบายข้อความและสามารถทำงานบน Windows หรือ Linux PC, บน Mac หรือในระบบคลาวด์บนฮาร์ดแวร์คอมพิวเตอร์ที่เช่า
โครงข่ายประสาทเทียมของ Stable Diffusion มีการเรียนรู้อย่างเข้มข้นที่เชี่ยวชาญในการเชื่อมโยงคำและความสัมพันธ์ทางสถิติทั่วไประหว่างตำแหน่งของพิกเซลในภาพ
ด้วยเหตุนี้ เราจึงสามารถแจ้ง Stable Diffusion เช่น "Tom Hanks ในห้องเรียน" และจะทำให้ผู้ใช้เห็นภาพใหม่ของ Tom Hanks ในห้องเรียน
ในกรณีของทอม แฮงค์ มันเป็นการเดินเล่นในสวนสาธารณะ เพราะภาพถ่ายของเขาหลายร้อยภาพอยู่ในชุดข้อมูลที่ใช้ในการฝึกการแพร่กระจายที่เสถียรแล้ว แต่สำหรับการสร้างภาพคนอย่าง John นั้น AI จะต้องการความช่วยเหลือสักหน่อย
นั่นคือสิ่งที่ Dreambooth เตะ
Dreambooth ซึ่งเปิดตัวเมื่อวันที่ 30 สิงหาคมโดยนักวิจัยของ Google ใช้เทคนิคพิเศษในการฝึก Stable Diffusion ผ่านกระบวนการที่เรียกว่า "การปรับแต่งอย่างละเอียด"
ในตอนแรก Dreambooth ไม่เกี่ยวข้องกับ Stable Diffusion และ Google ก็ไม่ได้เปิดใช้ซอร์สโค้ดเนื่องจากกลัวว่าจะถูกละเมิด
ในเวลาไม่นาน มีคนพบวิธีปรับเทคนิค Dreambooth ให้ทำงานร่วมกับ Stable Diffusion และปล่อยโค้ดได้อย่างอิสระในฐานะโปรเจ็กต์โอเพ่นซอร์ส ทำให้ Dreambooth เป็นวิธีที่ได้รับความนิยมอย่างมากสำหรับศิลปิน AI ในการสอนสไตล์ศิลปะใหม่ๆ ของ Stable Diffusion
ผลกระทบทั่วโลก
ผู้คนประมาณ 4 พันล้านคนทั่วโลกใช้โซเชียลมีเดีย เนื่องจากพวกเราหลายคนอัปโหลดภาพถ่ายของตัวเองมากกว่าไม่กี่ภาพ เราจึงอาจเสี่ยงต่อการถูกโจมตีดังกล่าวได้
แม้ว่าผลกระทบของเทคโนโลยีการสังเคราะห์ภาพจะถูกอธิบายจากมุมมองของผู้ชาย แต่ผู้หญิงก็มีแนวโน้มที่จะแบกรับผลกระทบนี้เช่นกัน
เมื่อมีการแสดงใบหน้าหรือร่างกายของผู้หญิง ตัวตนของเธออาจถูกแทรกเข้าไปในภาพอนาจารอย่างซุกซน
สิ่งนี้เกิดขึ้นได้จากภาพทางเพศจำนวนมากที่พบในชุดข้อมูลที่ใช้ในการฝึกอบรม AI
กล่าวอีกนัยหนึ่ง หมายความว่า AI คุ้นเคยกับวิธีสร้างภาพอนาจารเหล่านั้นมากเกินไป
ในการเสนอราคาเพื่อแก้ไขปัญหาด้านจริยธรรมเหล่านี้ Stability AI ถูกบังคับให้ลบเนื้อหา NSFW ออกจากชุดข้อมูลการฝึกอบรมสำหรับรุ่น 2.0 ล่าสุด
แม้ว่าใบอนุญาตซอฟต์แวร์จะห้ามไม่ให้ผู้คนใช้เครื่องกำเนิด AI เพื่อสร้างภาพของผู้คนโดยไม่ได้รับอนุญาต แต่ก็มีศักยภาพในการบังคับใช้น้อยมากหรือไม่มีเลย
นอกจากนี้ เด็กยังไม่ปลอดภัยจากภาพที่สังเคราะห์ขึ้น และอาจถูกกลั่นแกล้งโดยใช้เทคโนโลยีนี้ แม้ในกรณีที่ภาพไม่ได้ถูกดัดแปลง
มีอะไรที่เราสามารถทำได้หรือไม่?
รายการสิ่งที่ต้องทำแตกต่างกันไปในแต่ละบุคคล วิธีหนึ่งคือการลบภาพออฟไลน์ทั้งหมดพร้อมกัน
แม้ว่าวิธีนี้อาจใช้ได้กับคนทั่วไป แต่ก็ไม่ใช่วิธีแก้ปัญหาสำหรับคนดังและบุคคลสาธารณะอื่นๆ
อย่างไรก็ตาม ในอนาคต ผู้คนอาจสามารถป้องกันตนเองจากการล่วงละเมิดทางภาพถ่ายด้วยวิธีการทางเทคนิค เครื่องกำเนิดภาพ AI ในอนาคตอาจถูกบังคับตามกฎหมายให้ฝังลายน้ำที่มองไม่เห็นลงในผลลัพธ์
ด้วยวิธีนี้ ลายน้ำของพวกเขาสามารถอ่านได้ในภายหลัง และทำให้ผู้คนรู้ว่าเป็นของปลอมได้ง่าย
"จำเป็นต้องมีกฎระเบียบที่กว้างขวาง เนื้อหาที่มีการดัดแปลงหรือปลอมควรแสดงตัวอักษรหรือคำเตือนอย่างชัดเจน เช่นเดียวกับภาพยนตร์ (G, PG, R และ X) อาจจะเป็นเช่น Digitally Altertered หรือ DA" มิทชุมพูดว่า
Stability AI เปิดตัว Stable Diffusion เป็นโครงการโอเพ่นซอร์สในปีนี้
ให้เครดิต Stable Diffusion ใช้ลายน้ำแบบฝังอยู่แล้วโดยค่าเริ่มต้น แต่ผู้ที่เข้าถึงเวอร์ชันโอเพ่นซอร์สมักจะหลีกเลี่ยงโดยการปิดใช้งานองค์ประกอบลายน้ำของซอฟต์แวร์หรือลบออกทั้งหมด
MIT เพื่อบรรเทา
แม้ว่าจะเป็นเพียงการคาดเดาเท่านั้น แต่ลายน้ำที่เพิ่มลงในภาพถ่ายส่วนตัวโดยสมัครใจอาจขัดขวางกระบวนการฝึกอบรม Dreambooth ได้ กลุ่มนักวิจัยของ MIT กล่าว โฟโต้การ์ดซึ่งเป็นกระบวนการของฝ่ายตรงข้ามที่มีจุดมุ่งหมายเพื่อปกป้องและป้องกัน AI จากการสังเคราะห์ภาพถ่ายที่มีอยู่ผ่านการปรับเปลี่ยนเล็กน้อยโดยใช้วิธีการใส่ลายน้ำที่มองไม่เห็น อย่างไรก็ตาม สิ่งนี้จำกัดเฉพาะกรณีการใช้งานการแก้ไขด้วย AI (มักเรียกว่า "การวาดภาพ") และรวมถึงการฝึกอบรมหรือการสร้างภาพ
"AI เข้ายึดครองการเขียนและระบายสี! ของปลอมจะทำลายวิดีโอ!
ดี
นั่นหมายถึงการแสดงสดจะยิ่งมีค่ามากขึ้นไปอีก งานแสดงสินค้าจะเจริญรุ่งเรือง มนุษย์ต้องการทำธุรกิจกับมนุษย์
มีทสเปซยังคงเป็นเบสท์สเปซ" โจนาธาน พิชชาร์ด กล่าวว่า
ในช่วงหลังมานี้ได้มีการแพร่หลายของเทคโนโลยี AI ที่เขียน บทกวีจังหวะและเพลง และบางส่วนที่เป็น การเรียนรู้ เกม
นักวิจารณ์มองความก้าวหน้าทางเทคโนโลยีในทางลบ และเชื่อว่าเอไอกำลังเข้ามาแทนที่งานของมนุษย์
- Bitcoin
- blockchain
- การปฏิบัติตามบล็อคเชน
- เกม blockchain
- เบื่อ Ape Yacht Club
- ธุรกิจ
- coinbase
- เหรียญอัจฉริยะ
- เอกฉันท์
- การประชุม crypto
- การทำเหมือง crypto
- cryptocurrency
- ซึ่งกระจายอำนาจ
- Defi
- สินทรัพย์ดิจิทัล
- ความบันเทิง
- ethereum
- อุตสาหกรรมเกม
- เรียนรู้เครื่อง
- เมตานิวส์
- metaverse
- NFT
- โทเค็นที่ไม่สามารถทำซ้ำได้
- เพลโต
- เพลโตไอ
- เพลโตดาต้าอินเทลลิเจนซ์
- เพลโตดาต้า
- เพลโตเกม
- รูปหลายเหลี่ยม
- หลักฐานการเดิมพัน
- W3
- ลมทะเล