Trung Quốc sẽ ban hành luật để giải quyết vấn đề Deepfake vào tháng 1 Thông tin dữ liệu PlatoBlockchain Tìm kiếm dọc. Ái.

Trung Quốc giới thiệu luật để giải quyết Deepfakes vào tháng XNUMX

Dấu thời gian: Ngày 24 tháng 2022 năm 5 45:XNUMX sáng

Nếu bạn đã truy cập mạng xã hội trong tuần này, có lẽ bạn đã bắt gặp những bức ảnh do AI tạo ra về bạn bè của bạn dưới dạng thần tiên, nhân vật hoạt hình, hình đại diện và sinh vật có phép thuật.

Điều này một phần là do Lensa, một AI tổng hợp ảnh chân dung kỹ thuật số dựa trên ảnh người dùng tải lên. Ảnh chân dung của ứng dụng thực tế đã chiếm lĩnh internet, với việc Lensa trở thành ứng dụng được tải xuống nhiều nhất trong cửa hàng ứng dụng của Apple.

Lensa, giống như tất cả các ứng dụng AI giúp hiển thị hình ảnh kỹ thuật số, đã thu hút cả sự ngưỡng mộ và tranh cãi vì khả năng tình dục hóa hình ảnh phụ nữ dường như trắng trợn. Những người dùng khác lưu ý rằng ứng dụng khiến da họ nhợt nhạt hơn hoặc cơ thể gầy hơn.

Ngoài ra đọc: Công nghệ AI tạo ra những hình ảnh giả sâu đầy sức sống

Làm thế nào để có được 'hình đại diện ma thuật' của riêng bạn

Các hình ảnh thực hiện các vòng là một sáng tạo đáng tự hào về chức năng hình đại diện ma thuật của Lensa. Để cảm nhận về nó, người ta phải tải xuống ứng dụng Lensa trên điện thoại. Đăng ký hàng năm là khoảng 35.99 đô la nhưng các dịch vụ của nó cũng có sẵn mặc dù có những hạn chế miễn phí trong thời gian dùng thử kéo dài một tuần nếu một người muốn dùng thử trước.

Tuy nhiên, việc tạo các hình đại diện ma thuật phổ biến yêu cầu một khoản phí bổ sung vì những gì ứng dụng nói là “sức mạnh tính toán to lớn” để đạt được.

Khi dùng thử miễn phí, một người có thể nhận được 50 hình đại diện với giá 3.99 đô la và 200 hình đại diện với giá 7.99 đô la. Để có được kết quả tốt nhất, ứng dụng khuyến khích người dùng tải lên ít nhất 20 hình ảnh cận cảnh.

Lý tưởng nhất là những hình ảnh này phải là cận cảnh khuôn mặt của một người với nhiều phông nền, nét mặt và góc độ khác nhau. Ứng dụng khẳng định người dùng phải từ 13 tuổi trở lên. Lensa không phải là một ứng dụng hoàn toàn mới.

Là sản phẩm của Prisma, ứng dụng lần đầu nổi tiếng vào năm 2016 nhờ chức năng cho phép người dùng biến ảnh selfie thành ảnh theo phong cách của các nghệ sĩ nổi tiếng.

Ống kính hoạt động như thế nào?

Theo công ty, nó sử dụng cái gọi là “công nghệ API TrueDepth”, trong đó người dùng cung cấp ảnh hoặc “dữ liệu khuôn mặt”, sau đó AI sẽ được đào tạo về các thuật toán của nó để hoạt động tốt hơn và hiển thị cho bạn kết quả tốt hơn. Đào tạo là khi AI xử lý dữ liệu, xác thực và kiểm tra các mô hình.

Để sử dụng ứng dụng, người ta có thể sắp xếp 20 ảnh tự chụp với nhiều biểu cảm và góc độ khác nhau và chọn tùy chọn 100 ảnh đại diện.

Mất khoảng 20 phút để thực hiện công việc. Sau khi hoàn thành, AI sẽ trả về các hình đại diện thuộc 10 danh mục như giả tưởng, công chúa cổ tích, tiêu điểm, pop, phong cách, hoạt hình, ánh sáng, dễ thương, ánh kim và vũ trụ.

“Nói chung, tôi cảm thấy như ứng dụng đã làm rất tốt việc tạo ra những bức ảnh nghệ thuật dựa trên ảnh tự chụp của tôi. Tôi không thể nhận ra chính mình trong hầu hết các bức chân dung, nhưng tôi có thể biết chúng đến từ đâu,” Zoe sottile của CNN đã viết.

“Nó dường như nhận ra và lặp lại một số đặc điểm nhất định, chẳng hạn như làn da nhợt nhạt hay chiếc mũi tròn của tôi, hơn những đặc điểm khác. Một số trong số chúng có phong cách chân thực hơn và đủ gần để tôi có thể nghĩ rằng chúng thực sự là ảnh của tôi nếu tôi nhìn thấy chúng từ xa. Những người khác được cách điệu và nghệ thuật hơn đáng kể, vì vậy họ cảm thấy ít cụ thể hơn đối với tôi.

Sottile nhận thấy AI cũng khiến cô nhẹ hơn.

Đối với tôi, tôi cũng cảm thấy rằng nó tự động làm cho tôi sáng hơn và hình ảnh tôi đã thử trong bộ sưu tập của mình về tôi và một người bạn có làn da sẫm màu hơn một chút đã trả lại một phiên bản sáng hơn nhiều của chúng tôi, rõ ràng là một sự phóng đại và cho thấy khuynh hướng sáng hơn. tông màu da đen.

tình dục hóa phụ nữ

Những người khác đã sử dụng nó ít nhiều cũng có những lo lắng tương tự.

Phụ nữ nói rằng AI nhanh chóng gợi dục hóa hình ảnh của họ. Nhưng trong một bài viết trước đó, chúng tôi Giải thích điều này có thể thực hiện được nhờ số lượng lớn hình ảnh khiêu dâm được tìm thấy trong các bộ dữ liệu được sử dụng trong đào tạo AI.

Nói cách khác, điều này có nghĩa là AI đã quá quen thuộc với cách tạo ra những hình ảnh đó và dễ dàng trở thành nội dung khiêu dâm. Với một chút mánh khóe, nó cũng có thể vô tình tạo ra nội dung khiêu dâm từ những hình ảnh đó nếu người dùng muốn.

Trong các câu chuyện khác, chúng tôi đã đề cập đến cách AI có thể bị lừa cung cấp thông tin về cách tạo ra một bom ví dụ. Thật kỳ lạ, vấn đề tình dục hóa không xuất hiện trong hình ảnh của những người đàn ông được tải lên tính năng Magic Avatar. Đối với Tạp chí Công nghệ MIT, Melissa Heikkilä đã viết,

“Các hình đại diện của tôi bị khiêu dâm theo kiểu hoạt hình, trong khi các đồng nghiệp nam của tôi phải trở thành phi hành gia, nhà thám hiểm và nhà phát minh.”

Mặt khác, Sottile nhận thấy rằng AI có “một trong những hình ảnh mất phương hướng nhất” khiến cô ấy trông “giống như một phiên bản khuôn mặt của tôi trên một cơ thể khỏa thân”.

Cô ấy nói: “Trong một số bức ảnh, có vẻ như tôi đang khỏa thân nhưng với một chiếc chăn được đặt một cách có chủ ý, hoặc hình ảnh bị cắt đi để che giấu bất cứ điều gì rõ ràng.

Zoe Sottile cho biết thêm: “Và nhiều hình ảnh, ngay cả khi tôi mặc quần áo đầy đủ, vẫn có nét mặt khó chịu, khe ngực đáng kể và quần áo thiếu vải không phù hợp với những bức ảnh tôi đã gửi”.

Những người khác bày tỏ lo ngại rằng họ sẽ bị biến thành ngôi sao khiêu dâm nhờ công nghệ AI như Lensa.

Cơ thể xấu hổ

Đối với những phụ nữ có cơ thể đầy đủ, trải nghiệm có phần khác biệt và thậm chí còn tồi tệ hơn trong một số trường hợp. AI làm cho chúng mỏng hơn và gợi cảm hơn.

“Đối với Lmfao, nếu bạn mắc chứng Rối loạn định hình cơ thể, đừng sử dụng ứng dụng Lensa đó cho các bức ảnh do AI tạo ra. Đây là lời cảnh báo của bạn,” một người dùng đã viết.

Một người khác cho biết ứng dụng đã khiến cô ấy trông giống người châu Á.

Một người dùng khác đã lên twitter để phàn nàn rằng anh ta đã trả 8 đô la để trải nghiệm chứng rối loạn cơ thể khi sử dụng AI.

Rối loạn hình thể là một tình trạng sức khỏe tâm thần mà một người dành nhiều thời gian để lo lắng về những khiếm khuyết về ngoại hình của họ. Những sai sót này thường không được người khác chú ý.

Một người khác phàn nàn rằng AI tự động giảm trọng lượng đáng kể trên những hình ảnh đầy đủ của cô ấy.

“Tôi có một phàn nàn về Lensa AI là nó sẽ khiến bạn gầy đi trong một số hình ảnh. Là một người béo, những hình ảnh đó thực sự làm phiền tôi. Vì vậy, hãy cẩn thận để không bị kích động nếu bạn là một người béo và không muốn trở nên gầy,” Mariah Successful (@Shlatz) viết vào ngày 5 tháng 2022 năm XNUMX.

Quả bom hẹn giờ tâm lý

Và các nhà tâm lý học đồng tình với tuyên bố của cô ấy rằng AI có thể kích hoạt những người phụ nữ có hình dáng đầy đủ.

Một nhà tâm lý học lâm sàng, Dr. toni pikoos, một bác sĩ sức khỏe tâm thần ở Úc, người nghiên cứu và chuyên điều trị chứng rối loạn dị dạng cơ thể, tin rằng ứng dụng này có thể gây hại nhiều hơn là có lợi và chẳng qua là một “công cụ lọc ảnh” để thay đổi nhận thức của một người.

Pikoos nói: “Khi có sự khác biệt lớn hơn giữa ngoại hình lý tưởng và ngoại hình được nhận thức, nó có thể khiến cơ thể không hài lòng, đau khổ và mong muốn sửa chữa hoặc thay đổi ngoại hình của một người bằng các phương tiện có thể không lành mạnh hoặc không an toàn” như ăn uống không điều độ hoặc các thủ thuật thẩm mỹ không cần thiết.

Cô ấy bày tỏ lo ngại rằng những hình ảnh bị xóa "các chi tiết phức tạp" chẳng hạn như "tàn nhang và nếp nhăn", điều gì đó có thể làm tăng thêm lo lắng về làn da của một người. Cô ấy nói, điều này cũng có thể kích hoạt tâm lý một người dễ bị tổn thương.

“Việc nhìn thấy một hình ảnh bên ngoài phản ánh sự bất an của họ đối với họ chỉ củng cố ý tưởng 'Thấy chưa, điều này thật sai trái với tôi! Và tôi không phải là người duy nhất có thể nhìn thấy nó!'” Pikoos nói.

Ông nói, do AI giới thiệu các tính năng của riêng nó không mô tả diện mạo ngoài đời thực của người dùng nên ứng dụng có thể tạo ra những lo lắng mới.

Cô ấy nói rằng “hình đại diện ma thuật” của AI “đặc biệt thú vị vì nó có vẻ khách quan hơn — như thể một sinh vật bên ngoài, biết tất cả đã tạo ra hình ảnh này về diện mạo của bạn.”

Cô ấy cảm thấy điều này thực sự “hữu ích” đối với những người mắc chứng rối loạn dị dạng cơ thể và giúp làm sáng tỏ sự “không phù hợp” giữa “quan điểm tiêu cực của một cá nhân về bản thân và cách người khác nhìn nhận họ”.

Tuy nhiên, cô ấy lưu ý rằng AI không khách quan vì nó cố gắng khắc họa một “phiên bản nâng cao và hoàn thiện” hoàn mỹ và hoàn thiện hơn của khuôn mặt một người.

Chẳng hạn, một người nào đó mắc chứng rối loạn dị dạng cơ thể, hay BDD, “có thể cảm thấy tự tin hơn một chút khi họ xem hình ảnh của mình và muốn chia sẻ phiên bản này của họ với thế giới,” cô ấy nói, nhưng sẽ bị ảnh hưởng nặng nề bởi thực tế khi tắt màn hình, không được lọc, trong gương hoặc một bức ảnh mà họ tự chụp.”

Bảo vệ chính mình

Andrey Usoltsev, Giám đốc điều hành của Prisma Labs, cho biết công ty của ông hiện đang “ngập tràn” các câu hỏi về Lensa và cung cấp một liên kết đến trang Câu hỏi thường gặp giải quyết các truy vấn về hình ảnh khiêu dâm, mặc dù không phải là loại phản ứng của người dùng mà Pikoos mô tả.

“Việc nhìn thấy điều này được phản ánh trong ứng dụng sẽ rất khó khăn và cung cấp một loại 'xác nhận' cho cách họ nhìn nhận bản thân”, khiến họ trở nên “cố thủ hơn trong tình trạng rối loạn”.

Khuếch tán ổn định

Lensa cũng sử dụng Khuếch tán ổn định, sử dụng tổng hợp học sâu có thể tạo hình ảnh mới từ mô tả văn bản và có thể chạy trên PC Windows hoặc Linux, trên máy Mac hoặc trên đám mây trên phần cứng máy tính thuê.

Mạng thần kinh của Khuếch tán ổn định nhờ sự trợ giúp của quá trình học tập chuyên sâu đã thành thạo cách liên kết các từ và liên kết thống kê chung giữa các vị trí của pixel trong hình ảnh.

Chúng tôi bao phủ trong khác câu chuyện làm thế nào công nghệ có thể gây ra những hậu quả hủy hoại cuộc sống bằng cách hiển thị và mô tả hình ảnh của những người có vẻ như là tội phạm hoặc tham gia vào các hành vi ít tâng bốc như trộm cắp.

Ví dụ: một người có thể đưa ra lời nhắc cho Stable Diffusion có nguồn mở, chẳng hạn như “Tom Hanks trong lớp học” và nó sẽ mang đến cho anh ấy/cô ấy một hình ảnh mới về Tom Hanks trong lớp học. Trong trường hợp của Tom Hank, đó là một cuộc dạo chơi trong công viên vì hàng trăm bức ảnh của anh ấy đã có trong bộ dữ liệu được sử dụng để đào tạo Khuếch tán ổn định.

Các nghệ sĩ cũng nhận được thỏa thuận thô

Về mặt nghệ thuật, một số nghệ sĩ không hài lòng.

Họ lo ngại AI có thể đe dọa sinh kế của họ. Điều này là do các nghệ sĩ, kể cả nghệ sĩ kỹ thuật số, cũng không thể tạo ra một bức chân dung kỹ thuật số nhanh như AI.

Công ty mẹ của Lensa, Prisma đã cố gắng xoa dịu những lo ngại về việc công nghệ của họ loại bỏ công việc của các nghệ sĩ kỹ thuật số.

“Mặc dù cả con người và AI đều học về các phong cách nghệ thuật theo những cách gần giống nhau, nhưng có một số điểm khác biệt cơ bản: AI có khả năng phân tích và học hỏi nhanh chóng từ các tập dữ liệu lớn, nhưng nó không có cùng mức độ chú ý và đánh giá cao đối với nghệ thuật như một con người," đã viết công ty trên Twitter vào ngày 6 tháng XNUMX.

Nó nói rằng “các kết quả đầu ra không thể được mô tả là bản sao chính xác của bất kỳ tác phẩm nghệ thuật cụ thể nào.”

Thay đổi hình ảnh bản thân

Kerry Bowman, một nhà đạo đức sinh học tại Đại học Toronto, cho biết AI có khả năng ảnh hưởng tiêu cực đến hình ảnh bản thân của một người, bên cạnh các vấn đề đạo đức khác.

“Theo một số cách, nó có thể rất thú vị nhưng những hình ảnh lý tưởng hóa này đang bị thúc đẩy bởi những kỳ vọng xã hội có thể rất tàn nhẫn và rất hạn hẹp,” Bowman cho biết hôm thứ Hai.

Bowman cho biết các chương trình AI này sử dụng các nguồn tập hợp dữ liệu như internet để tìm kiếm các phong cách nghệ thuật khác nhau nhằm tạo ra những bức chân dung này. Nhược điểm là khi AI làm điều đó, các nghệ sĩ hiếm khi được trả công về mặt tài chính cho việc sử dụng tác phẩm của họ hoặc được ghi nhận.

“Điều xảy ra với AI mới nổi là luật pháp đã không thể thực sự theo kịp điều này về mặt luật bản quyền. Điều đó rất khó khăn và rất u ám và đạo đức thậm chí còn đi sau luật pháp vì tôi cho rằng điều này về cơ bản là không công bằng,” Bowman nói.

Mối quan tâm về dữ liệu cá nhân

Bowman cũng đưa ra quan ngại về cách dữ liệu cá nhân của mọi người được lưu trữ.

“Bạn có thực sự muốn khuôn mặt của mình trong một cơ sở dữ liệu lớn không? Mọi người cần tự quyết định về điều này nhưng nó không lành tính, không có gì để nói, nó không chỉ là niềm vui,” anh nói.

Lensa cho biết ảnh được lưu giữ trên máy chủ và trong ứng dụng không quá 24 giờ. Với các thuật toán học máy và học sâu, AI sẽ thu thập và sau đó mang lại kết quả tốt hơn trong tương lai, cũng dựa trên dữ liệu đã xóa. Bowman nói, điều này sẽ dẫn đến những lo ngại về an toàn đối với khả năng sử dụng nhận dạng khuôn mặt vì loại dữ liệu này có thể được cảnh sát sử dụng bất hợp pháp.

Dấu thời gian:

Thêm từ MetaNews