Змусити ШІ витримати випробування часом

Думка Усі тривоги та страхи щодо ШІ зводяться до одного. Як ми знаємо, наскільки добре це працює?

Тип орієнтира, про який зазвичай турбується ІТ, не позбавлений важливості. Як швидко вивчається певний набір даних, як швидко можна обробляти підказки, які ресурси потрібні та як усе це масштабується? Якщо ви створюєте систему штучного інтелекту як частину свого бізнесу, вам краще зробити ці речі правильно або принаймні зрозуміти їх межі.

В іншому випадку вони не мають великого значення, хоча ви можете бути впевнені, що маркетологи та експерти з цим не погодяться. Те, що це не має значення, добре: контрольні показники надто часто стають мішенями, які спотворюють функцію, і їх слід міцно тримати в своїх розплідниках.

Найважливішим показником для ШІ є те, наскільки він правдивий або, що ще корисніше, наскільки мало його спотворюють ті, хто його продає або використовує. Як казав Понтій Пілат 2,000 років тому, що таке правда? Орієнтира немає. Незважаючи на тисячоліття, що минули, і нескінченну кількість заяв про те, що це виправлено, цього все ще немає. Найзлобніші брехуни можуть заручитися підтримкою націй у розпал того, що мало б стати золотою добою розуму. Якщо ніхто не готовий або не зможе їх зупинити, який у нас шанс утримати ШІ на боці ангелів?

Єдиний механізм, який має шанс, — це той цікавий синтез регуляторних органів і судових систем, який існує — теоретично — поза політикою, але всередині демократичного контролю. Регулятори встановлюють стандарти, а суди виступають опорою для цих повноважень і арбітрів у спорах.

Якщо подивитися, де дискусія йде про ШІ в судовій системі, ви знайдете багато нюансів. Як і в усіх професіях, юрист складається з людей, які хочуть зберегти свою роботу. Вони також хотіли б виконувати цю роботу краще. Це означає скорочення прірви, яку вони добре усвідомлюють, між тими, хто потребує справедливості, і тими, хто має до неї доступ. Перспективи штучного інтелекту тут розглядаються як потенційно надзвичайно вигідні — за умови, що вони прозорі, доступні, надійні та привабливі.

Це, звичайно, вірно для штучного інтелекту в інших місцях, і оскільки юристи витрачають більше часу, ніж будь-хто інший, турбуючись про правду в людських справах, нам усім варто уважно стежити за їхніми думками. Адже мали код задовго до COBOL.

Що веде нас до регуляторів. Має бути так, що чим більш технічна та вимірна сфера, що регулюється, тим легша робота регулятора. Якщо ви керуєте радіочастотним спектром або залізницею, щось не так швидко виявляється в цифрах. Фінансові регулятори, діючи в міазмі економіки капіталу та неправильного управління корпораціями, проходять через цикл ослаблення в ім’я сильного зростання, поки все не розвалиться і не настане грандіозне перезавантаження. Поморщитися і повторити. Проте дуже технічні регулятори можуть піти не так, як у випадку з FAA та Boeing 737 MAX. Регуляторне захоплення їх промисловістю або політиками є постійною загрозою. І іноді ми просто не можемо сказати – GDPR діє з нами вже п’ять років. це працює?

На жаль, неможливо створити ринок, який регулюється двома різними способами, і порівняти результати. ЄС має роки GDPR: немає жодного ЄС того самого періоду, який би не мав. Контрольні групи, одну з основ емпіризму, нелегко знайти в регуляторних органах, а тим більше в правовій системі. Система судів присяжних перевіряє справу за допомогою кількох незалежних думок, тоді як остаточний захист верховних судів також розглядає найважчі справи, представлені на розгляд колегії. Немає паралельної, іншої системи. Як могло бути?

Саме тут природа штучного інтелекту може вказувати на регулятивну опору для відповідальної інтеграції машин у справи людства. Існує не один ШІ, існує безліч моделей, апаратних платформ, підходів, експериментів. Це машини, і ми можемо зробити стільки, скільки нам потрібно. Істина в останній інстанції остаточно непізнана, але дієвого консенсусу можна досягти – або навіть дієвої більшості.

Якщо у вас є критичне завдання, у якому задіяний штучний інтелект, і немає можливості відразу помітити ляп, візьміть іншу паралельно. І ще один. Порівняйте відповіді. Якщо ви не можете знайти достатньо незалежного штучного інтелекту для певної проблеми, не використовуйте його, доки не зможете.

Надмірність є потужною зброєю проти помилок. Аполлон потрапив на Місяць не тому, що системи були досконалими, а тому, що в них була надлишковість в очікуванні відмови. Радянські пілотовані місячні зусилля уникали цього на користь того, що виглядало як доцільність, але закінчилося ганьбою.

Нам не потрібно довіряти штучному інтелекту, що також добре – що таке правда? Воно знає не більше, ніж ми. Але ми створили працездатне суспільство навколо систем, які довіряють і перевіряють, і ми бачимо, що це працює як на суддях, так і на реактивних літаках. Філософія, потенціал і підводні камені наших все більш вдумливих товаришів з часом вирішуються, ми повинні просто встановити шанси на нашу користь, поки ми можемо. Що б ми не робили, ми не зможемо від цього відмити руки. ®

• Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
• PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
• PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
• ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
• PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
• джерело: https://go.theregister.com/feed/www.theregister.com/2024/01/02/opinion_ai/