Люди, які регулярно спілкуються з чат-ботами зі штучним інтелектом, часто починають вірити, що вони розумні, каже генеральний директор

Коротко За словами генерального директора програми Replika, яка дозволяє користувачам створювати власних віртуальних компаньйонів, багато людей починають вірити, що вони взаємодіють з чимось розумним, коли вони спілкуються з чат-ботами штучного інтелекту.

Люди можуть налаштувати вигляд своїх чат-ботів і платити за додаткові функції, як-от певні риси особистості на Replika. Мільйони завантажили додаток і багато з них регулярно спілкуються зі своїми придуманими ботами. Деякі навіть починають думати, що їхні цифрові друзі — це реальні істоти, які розумні.

«Ми не говоримо про божевільних людей або людей, які мають галюцинації чи марення», — засновник і генеральний директор компанії Євгенія Куйда. сказав Reuters. «Вони спілкуються зі ШІ, і це їхній досвід».

Інженер Google зробив заголовки минулого місяця, коли він сказав, що вважає, що одна з мовних моделей компанії була свідомою. Блейка Лемуана багато в чому висміювали, але, здається, він не один у антропоморфізації ШІ.

Однак ці системи не розумні, і замість цього змушують людей думати, що вони мають певний інтелект. Вони імітують мову та відригують її дещо випадково, не маючи жодного розуміння мови чи світу, який вони описують.

Тим не менш, Куйда сказав, що технологія може вплинути на людей.

«Ми повинні зрозуміти, що [це] існує, як люди вірять у привидів», — сказав Куйда. «Люди будують стосунки і в щось вірять».

Євросоюз повинен заборонити детектори брехні зі штучним інтелектом, кажуть активісти

Закон Європейського Союзу про штучний інтелект, пропозиція щодо регулювання цієї технології, все ще обговорюється, і деякі експерти закликають заборонити автоматичні детектори брехні.

Приватні компанії надають технологію урядовцям для використання на кордонах. Алгоритми штучного інтелекту виявляють і аналізують такі речі, як рухи очей, вираз обличчя та тон людини, щоб спробувати визначити, чи може хтось говорити неправду. Але активісти та правознавці вважають, що його слід заборонити в ЄС відповідно до майбутнього Закону про штучний інтелект.

«Ти маєш довести, що ти біженець, і вважається, що ти брехун, якщо не буде доведено протилежне», – Петра Молнар, заступник директора некомерційної Лабораторії права біженців, сказав Провідний. «Ця логіка лежить в основі всього. Це лежить в основі детекторів брехні зі штучним інтелектом, а також сприяє посиленню стеження та протидії на кордонах».

Спроба визначити, чи хтось бреше, використовуючи візуальні та фізичні підказки, не зовсім наука. Стандартні тести на поліграфі є хиткими, і незрозуміло, що використання більш автоматизованих методів обов’язково означає, що вони більш точні. Використання такої ризикованої технології для вразливих людей, таких як біженці, не є ідеальним.

Чи справді штучний інтелект може визначити, на скільки вам років?

Сюрприз, сюрприз – алгоритми штучного інтелекту, призначені для передбачення чийогось віку за зображеннями, не завжди точні.

У спробі розправитися з молодими користувачами, які брешуть про свій вік у соціальних мережах, Meta оголосила, що співпрацює з Yoti, стартапом комп’ютерного зору, щоб перевіряти вік людей. Ті, хто вручну змінює свою дату народження, щоб зареєструватися як старше 18 років, мають можливість завантажити відеоселфі, а технологія Yoti потім використовується для прогнозування, чи вони виглядають достатньо дорослими.

Але його алгоритми не завжди точні. Репортери CNN, які перевірений онлайн-демонстрацію іншої версії програмного забезпечення на своїх власних обличчях, виявили, що результати були помилковими. Алгоритми Yoti передбачили правильний цільовий віковий діапазон для деяких, але в одному випадку відхилилися на кілька років – передбачивши, що хтось виглядає на 17-21 рік, коли йому насправді було близько 30 років.

Повідомляється, що системі, яка аналізує відео від користувачів Meta, більше важко визначити вік підлітків від 13 до 17, які мають темніші відтінки шкіри. Людям складно визначити чийсь вік, просто подивившись на них, і машини, ймовірно, не набагато краще. ®