خدمات تشخیص چهره با هوش مصنوعی Clearview با 20 میلیون یورو جریمه در فرانسه جریمه شد

حماسه Clearview AI ادامه دارد!

اگر قبلاً نام این شرکت را نشنیده اید، در اینجا بسیار است جمع بندی واضح و مختصر از تنظیم کننده حریم خصوصی فرانسوی، CNIL (کمیسیون ملی اطلاعات و آزادی) که خیلی راحت یافته ها و احکام خود را در این داستان طولانی به دو زبان فرانسوی و انگلیسی منتشر می کند:

Clearview AI عکس ها را از بسیاری از وب سایت ها، از جمله رسانه های اجتماعی جمع آوری می کند. تمام عکس‌هایی را که مستقیماً در این شبکه‌ها در دسترس هستند (یعنی بدون ورود به حساب کاربری قابل مشاهده هستند) جمع‌آوری می‌کند. تصاویر همچنین از ویدیوهای موجود به صورت آنلاین در همه سیستم عامل ها استخراج می شوند.

بنابراین، این شرکت بیش از 20 میلیارد تصویر در سراسر جهان جمع آوری کرده است.

به لطف این مجموعه، این شرکت دسترسی به پایگاه داده تصاویر خود را در قالب یک موتور جستجو به بازار عرضه می کند که در آن می توان شخص را با استفاده از عکس جستجو کرد. این شرکت به منظور شناسایی عاملان یا قربانیان جرم، این سرویس را به مقامات مجری قانون ارائه می دهد.

فناوری تشخیص چهره برای پرس و جو از موتور جستجو و یافتن یک شخص بر اساس عکس آنها استفاده می شود. برای انجام این کار، شرکت یک "الگوی بیومتریک" می سازد، یعنی نمایش دیجیتالی از ویژگی های فیزیکی یک فرد (در این مورد، چهره). این داده‌های بیومتریک بسیار حساس هستند، به ویژه به این دلیل که با هویت فیزیکی ما (آنچه که هستیم) مرتبط هستند و ما را قادر می‌سازند تا خود را به روشی منحصر به فرد شناسایی کنیم.

اکثریت قریب به اتفاق افرادی که تصاویر آنها در موتور جستجو جمع آوری می شود از این ویژگی بی اطلاع هستند.

هوش مصنوعی Clearview در چند سال گذشته خشم شرکت‌ها، سازمان‌های حفظ حریم خصوصی و تنظیم‌کننده‌ها را به‌طور متفاوتی به خود جلب کرده است، از جمله ضربه خوردن:

• شکایات و دعاوی دسته جمعی واصل در ایلینوی، ورمونت، نیویورک و کالیفرنیا.
• یک چالش قانونی از اتحادیه آزادی های مدنی آمریکا (ACLU)
• دستورات توقف و توقف از فیس‌بوک، گوگل و یوتیوب که Clearview را چنین می‌دانستند فعالیت های خراش دادن شرایط و ضوابط آنها را نقض کرده است.
• اقدام سرکوب و جریمه in استرالیا و انگلستان.
• حکمی که عملکرد آن را غیرقانونی می داند در سال 2021 توسط فرانسوی های فوق الذکر تنظیم کننده.

بدون منفعت مشروع

در دسامبر 2021، CNIL اعلام کرد، کاملا صراحتا، که:

[T] این شرکت رضایت افراد مربوطه را برای جمع آوری و استفاده از عکس های آنها برای تهیه نرم افزار خود جلب نمی کند.

Clearview AI نیز علاقه مشروعی به جمع‌آوری و استفاده از این داده‌ها ندارد، به‌ویژه با توجه به ماهیت مزاحم و عظیم این فرآیند، که امکان بازیابی تصاویر موجود در اینترنت چند ده میلیون کاربر اینترنت در فرانسه را فراهم می‌کند. این افراد که عکس‌ها یا فیلم‌هایشان در وب‌سایت‌های مختلف از جمله رسانه‌های اجتماعی قابل دسترسی است، به طور منطقی انتظار ندارند که تصاویر آنها توسط شرکت پردازش شود تا سیستم تشخیص چهره را ارائه کند که می‌تواند توسط ایالات برای اهداف اجرای قانون استفاده شود.

جدیت این نقض باعث شد که رئیس CNIL به دلیل نداشتن مبنای قانونی، به دلیل نداشتن مبنای قانونی، جمع‌آوری و استفاده از داده‌های افراد در قلمرو فرانسه را در چارچوب عملکرد نرم‌افزار تشخیص چهره که به بازار عرضه می‌کند، به Clearview AI دستور دهد.

علاوه بر این، CNIL این عقیده را ایجاد کرد که به نظر نمی‌رسد هوش مصنوعی Clearview چندان به پیروی از قوانین اروپایی در مورد جمع‌آوری و مدیریت داده‌های شخصی اهمیت نمی‌دهد:

شکایات دریافت شده توسط CNIL مشکلاتی را که شاکیان در استفاده از حقوق خود با Clearview AI با آن مواجه هستند، آشکار کرد.

از یک طرف، شرکت استفاده از حق دسترسی موضوع داده را تسهیل نمی کند:

• با محدود کردن اعمال این حق به داده های جمع آوری شده در طول دوازده ماه قبل از درخواست؛
• با محدود کردن استفاده از این حق به دو بار در سال، بدون توجیه.
• تنها با پاسخ دادن به درخواست های خاص پس از تعداد بیش از حد درخواست از همان شخص.

از سوی دیگر، این شرکت به طور موثر به درخواست‌های دسترسی و پاک کردن پاسخ نمی‌دهد. پاسخ های جزئی ارائه می دهد یا اصلاً به درخواست ها پاسخ نمی دهد.

CNIL حتی یک اینفوگرافیک منتشر کرد که تصمیم خود و فرآیند تصمیم گیری خود را خلاصه می کند:

کمیسیونرهای اطلاعات استرالیا و بریتانیا به نتایج مشابهی رسیدند، با نتایج مشابهی برای Clearview AI: خراش دادن داده های شما در حوزه قضایی ما غیرقانونی است. شما باید این کار را در اینجا متوقف کنید.

با این حال، همانطور که در می 2022 گفتیم، زمانی که بریتانیا گزارش داد که Clearview AI را جریمه می کند. حدود 7,500,000 پوند (پایین از 17 میلیون پوند جریمه ابتدا پیشنهاد شد) و به شرکت دستور داد که دیگر اطلاعات مربوط به ساکنان بریتانیا را جمع آوری نکند، "این که چگونه این امر پلیسی خواهد شد، چه رسد به اجرای آن، نامشخص است."

ممکن است در آینده با CNIL متوجه شویم که چگونه این شرکت در آینده تحت نظارت پلیس قرار خواهد گرفت از دست دادن صبر با هوش مصنوعی Clearview به دلیل عدم رعایت حکم خود مبنی بر توقف جمع آوری داده های بیومتریک فرانسوی ها…

... و اعلام جریمه 20,000,000 یورویی:

به دنبال یک اخطار رسمی که بدون توجه باقی ماند، CNIL جریمه 20 میلیون یورویی را اعمال کرد و به CLEARVIEW AI دستور داد تا جمع‌آوری و استفاده از داده‌های افراد در فرانسه را بدون مبنای قانونی متوقف کند و داده‌های جمع‌آوری‌شده را حذف کند.

بعدش چی؟

همانطور که قبلاً نوشتیم، به نظر می رسد که هوش مصنوعی Clearview نه تنها از نادیده گرفتن احکام نظارتی صادر شده علیه خود خوشحال است، بلکه انتظار دارد که مردم در همان زمان برای آن متاسف شوند و در واقع برای ارائه آنچه فکر می کند در کنار آن باشند. خدمتی حیاتی به جامعه است.

در حکم بریتانیا، جایی که تنظیم کننده سیاست مشابهی با CNIL در فرانسه اتخاذ کرد، به شرکت گفته شد که رفتار آن غیرقانونی، ناخواسته است و باید فوراً متوقف شود.

اما گزارش‌ها در آن زمان حاکی از آن بود که مدیر عامل Clearview، Hoan Ton-That، به دور از نشان دادن هرگونه فروتنی، واکنش نشان داد. احساس باز کردن که در یک آهنگ عاشقانه غم انگیز بی جا نخواهد بود:

قلب من را می‌شکند که Clearview AI نتوانسته است در هنگام دریافت درخواست‌های فوری از سوی سازمان‌های مجری قانون بریتانیا که به دنبال استفاده از این فناوری برای بررسی موارد سوء استفاده جنسی شدید از کودکان در بریتانیا هستند، کمک کند.

همانطور که در ماه مه 2022 پیشنهاد کردیم، این شرکت ممکن است مخالفان زیادی را پیدا کند که با متن آهنگ خود پاسخ می دهند:

برای من یک رودخانه گریه کن (طوری رفتار نکنید که انگار نمی دانید.)

شما چه فکر میکنید؟

آیا هوش مصنوعی Clearview واقعاً یک سرویس مفید و قابل قبول اجتماعی برای مجریان قانون ارائه می دهد؟

یا اینکه با جمع‌آوری غیرقانونی داده‌های بیومتریک و تجاری‌سازی آن‌ها برای اهداف ردیابی تحقیقاتی بدون رضایت (و ظاهراً بدون محدودیت) حریم خصوصی و فرض بی‌گناهی ما را به طور اتفاقی زیر پا می‌گذارد؟

در نظرات زیر به ما اطلاع دهید... ممکن است ناشناس بمانید.

---