요컨대 사용자가 자신의 가상 동료를 디자인할 수 있는 앱인 Replika의 CEO에 따르면 수많은 사람들이 AI 챗봇과 대화할 때 지각 있는 무언가와 상호 작용하고 있다고 믿기 시작합니다.
사람들은 챗봇의 모양을 사용자 정의하고 Replika의 특정 성격 특성과 같은 추가 기능에 대해 비용을 지불할 수 있습니다. 수백만 명이 앱을 다운로드했으며 많은 사람들이 자신이 만든 봇과 정기적으로 채팅합니다. 일부는 심지어 디지털 친구가 지각이 있는 실제 존재라고 생각하기 시작합니다.
회사 설립자이자 CEO인 Eugenia Kuyda는 "우리는 미친 사람이나 환각이나 망상을 가진 사람들에 대해 이야기하는 것이 아닙니다. 이야기 로이터. "그들은 AI와 대화하고 그것이 그들이 가진 경험입니다."
Google 엔지니어 만든 헤드 라인 지난 달 그는 회사의 언어 모델 중 하나가 의식이 있다고 믿었다고 말했습니다. Blake Lemoine은 크게 조롱을 받았지만 AI를 의인화하는 데 혼자가 아닌 것 같습니다.
그러나 이러한 시스템은 지각이 없으며 대신 인간이 지능이 있다고 생각하도록 속입니다. 그들은 언어나 그들이 묘사하는 세계에 대한 이해 없이 언어를 모방하고 다소 무작위로 역류합니다.
그러나 Kuyda는 인간이 이 기술에 휘둘릴 수 있다고 말했습니다.
Kuyda는 "사람들이 귀신을 믿는 방식대로 [이것이] 존재한다는 것을 이해해야 합니다."라고 말했습니다. "사람들은 관계를 구축하고 무언가를 믿습니다."
활동가들은 EU가 AI 거짓말 탐지기를 금지해야 한다고 말합니다.
이 기술을 규제하기 위한 유럽연합(EU)의 인공지능법(AI Act)은 여전히 논의 중이며 일부 전문가들은 자동화된 거짓말 탐지기의 금지를 요구하고 있다.
민간 기업은 국경에서 사용할 정부 관리에게 기술을 제공합니다. AI 알고리즘은 사람의 눈 움직임, 표정, 말투와 같은 것을 감지하고 분석하여 누군가가 진실을 말하고 있지 않은지 식별하려고 시도합니다. 그러나 활동가와 법률 전문가들은 다가오는 AI 법에 따라 EU에서 금지되어야 한다고 생각합니다.
비영리 난민법 연구소(Refugee Law Lab)의 부소장인 페트라 몰나르(Petra Molnar)는 “난민임을 증명해야 하며, 달리 증명되지 않는 한 거짓말쟁이로 추정된다”고 말했다. 이야기 열광한. “그 논리가 모든 것을 뒷받침합니다. 그것은 AI 거짓말 탐지기를 뒷받침하고 국경에서 더 많은 감시와 반발을 뒷받침합니다.”
시각적 및 물리적 신호를 사용하여 누군가가 거짓말을 하고 있는지 여부를 감지하는 것은 과학이 아닙니다. 표준 거짓말 탐지기 테스트는 불안정하며 더 자동화된 방법을 사용하는 것이 반드시 더 정확하다는 것을 의미하는지 확실하지 않습니다. 난민과 같은 취약한 사람들에게 그러한 위험한 기술을 사용하는 것은 이상적이지 않습니다.
AI가 정말로 당신의 나이를 말할 수 있습니까?
놀라움, 놀라움 – 이미지에서 누군가의 나이를 예측하도록 설계된 AI 알고리즘이 항상 정확한 것은 아닙니다.
Meta는 소셜 미디어 플랫폼에서 나이를 속이는 젊은 사용자를 단속하기 위해 컴퓨터 비전 스타트업인 Yoti와 협력하여 사람들의 나이를 확인한다고 발표했습니다. 18세 이상으로 등록하기 위해 생년월일을 수동으로 변경하는 사람들은 비디오 셀카를 업로드할 수 있는 옵션이 있으며 Yoti의 기술을 사용하여 충분히 성숙해 보이는지 예측합니다.
그러나 알고리즘이 항상 정확하지는 않습니다. CNN 기자들은 테스트 자신의 얼굴에 다른 버전의 소프트웨어에 대한 온라인 데모는 결과가 적중하거나 누락되었음을 발견했습니다. Yoti의 알고리즘은 일부 사람들의 정확한 목표 연령 범위를 예측했지만 한 경우에는 몇 년 차이가 있었습니다. 누군가가 실제로 17대 중반이었을 때 21-30세처럼 보일 것이라고 예측했습니다.
메타 유저들의 영상을 분석하는 시스템은 13~17세의 XNUMX대들의 피부색이 짙은 XNUMX대들의 나이를 추정하는 데 더 어려움을 겪는 것으로 알려졌다. 인간이 사람의 나이를 겉모습만 보고 짐작하는 것은 까다롭고 기계도 그다지 좋지 않을 것입니다. ®
