영국의 ICO(Information Commissioner's Office)는 이번 주에 기업들이 시스템적 편견과 기타 사기에 취약한 AI 기반 감정 분석 시스템을 배포하기 전에 두 번 생각해야 한다고 경고했습니다.
조직이 사람들을 위험에 빠뜨리는 이 수준 이하의 기술을 계속해서 사용하는 경우 조사에 직면하게 될 것이라고 워치독은 덧붙였습니다.
사람의 기분과 반응을 예측하는 머신 러닝 알고리즘은 컴퓨터 비전을 사용하여 시선, 얼굴 움직임 및 오디오 처리를 추적하여 굴절과 전반적인 감정을 측정합니다. 상상할 수 있듯이 정확하거나 공정하지 않을 수 있으며 교육 및 추론을 위해 데이터를 처리하는 개인 정보 보호 문제가 있을 수 있습니다.
실제로 ICO의 Stephen Bonner 부국장은 이 기술이 완벽하지 않아 특정 사회 집단에 대한 시스템적 편견, 부정확성 또는 차별을 초래한다고 말했습니다. “생체 인식 및 감정 AI 시장의 발전은 미숙합니다. 그들은 아직 작동하지 않을 수도 있고, 실제로는 영원히 작동하지 않을 수도 있습니다.” 말했다 문한다.
“기회가 있지만 현재 위험이 더 큽니다. ICO에서 우리는 데이터의 부정확한 분석이 정확하지 않은 사람에 대한 가정과 판단으로 이어져 차별을 초래할 수 있다는 점을 우려하고 있다”고 말했다.
Bonner는 감정 분석 소프트웨어가 종종 생체 인식 시스템과 결합되어 얼굴 이미지보다 더 광범위한 개인 정보를 수집하고 저장한다고 말했습니다. 소프트웨어 제공업체는 이 개인 데이터가 처리 또는 저장되는 방식에 대해 투명하지 않은 경우가 많습니다.
"지속 가능한 유일한 생체 인식 배포는 완전히 기능하고 책임이 있으며 과학에 의해 뒷받침되는 배포가 될 것입니다."라고 그는 말했습니다. "현재로서는 감정 AI 기술이 데이터 보호 요구 사항을 충족하는 방식으로 발전하는 것을 보지 못하고 이 영역에서 비례, 공정성 및 투명성에 대해 더 일반적인 질문이 있습니다."
예의 바른 표현인 것 같습니다. ICO가 예상하는 대로 작동하는 감정 읽기 AI 모델만 사용해야 하며 그러한 모델은 존재하지 않으므로 하던 일을 중단해야 합니다.
영국의 데이터 프라이버시 워치독은 내년 봄 기업에서 안면 인식, 지문 인식, 음성 인식을 포함한 생체 데이터를 어떻게 처리해야 하는지에 대한 보고서를 발표할 예정이다.
Bonner는 "ICO는 계속해서 시장을 조사하고 이러한 기술을 만들거나 배포하려는 이해 관계자를 식별하고 향상된 데이터 개인 정보 보호 및 규정 준수의 중요성을 설명하면서 이러한 시스템이 작동하는 방식에 대한 신뢰와 확신을 장려할 것입니다."라고 덧붙였습니다.
전문가들은 수년 동안 감정과 감정 분석에 대해 경고해 왔습니다. 감정은 주관적이고 정확하게 해석하기 어렵습니다. 인간은 종종 기계는 고사하고 자신이나 타인을 위해 효과적으로 이 작업을 수행할 수 없습니다. ®
