Заставить ИИ выдержать испытание временем

Обзор Все беспокойства и страхи по поводу ИИ сводятся к одному. Как мы узнаем, насколько хорошо это работает?

Тип контрольного показателя, который обычно беспокоит ИТ-специалистов, не лишен значения. Насколько быстро изучается тот или иной набор данных, как быстро можно обрабатывать подсказки, какие ресурсы требуются и как все это масштабируется? Если вы создаете систему искусственного интеллекта как часть своего бизнеса, вам лучше разобраться в этих вещах или, по крайней мере, понять их границы.

В остальном они не имеют большого значения, хотя вы можете быть уверены, что маркетологи и эксперты с этим не согласятся. Тот факт, что это не имеет значения, — это хорошо: тесты слишком часто становятся целями, искажающими функциональность, и их следует твердо держать в своих питомниках.

Самым важным критерием для ИИ является то, насколько он правдив или, что более полезно, насколько мало он искажается теми, кто его продает или использует. Как сказал Понтий Пилат 2,000 лет назад, что есть истина? Нет эталона. Несмотря на прошедшие тысячелетия и бесконечные заявления о том, что это удалось исправить, до сих пор этого не произошло. Самый вопиющий из лжецов может заручиться поддержкой наций в разгар того, что должно стать золотым веком разума. Если никто не готов и не способен их остановить, какой у нас шанс удержать ИИ на стороне ангелов?

Единственный механизм, у которого есть шанс, – это любопытный синтез регулирующих органов и судебных систем, который существует – теоретически – вне политики, но внутри демократического контроля. Регулирующие органы устанавливают стандарты, а суды выступают в качестве опоры этих полномочий и арбитров в спорах.

Если вы посмотрите, где дебаты идут об ИИ в судебной системе, вы обнаружите много нюансов. Как и все профессии, юрист состоит из людей, которые хотели бы сохранить свою работу. Они также хотели бы выполнять эту работу лучше. Это означает сокращение пропасти, о которой они остро осознают, между теми, кто нуждается в правосудии, и теми, кто может получить к нему доступ. Перспективы ИИ здесь рассматриваются как потенциально чрезвычайно выгодные – при условии, что он прозрачен, доступен, заслуживает доверия и привлекателен.

Конечно, это верно и для ИИ в других местах, и поскольку юристы тратят больше времени на поиск истины в человеческих делах, чем кто-либо другой, нам всем следует внимательно следить за тем, что они думают. Ведь у них было код задолго до COBOL.

Это подводит нас к регулирующим органам. Должно быть так, что чем более технической и измеримой является регулируемая сфера, тем легче работа регулирующего органа. Если вы управляете радиочастотами или железными дорогами, цифры быстро проявятся в цифрах. Финансовые регуляторы, действующие в миазмах экономики капитала и корпоративного неверного направления, проходят через цикл ослабления во имя сильного роста, пока все не развалится и не последует грандиозная перезагрузка. Вздрогните и повторите. Тем не менее, очень технические регуляторы могут пойти не так, как в случае с ФАУ и Boeing 737 MAX. Регуляторный захват со стороны их отраслей или политиков представляет собой постоянную угрозу. А иногда мы просто не можем сказать наверняка — GDPR с нами уже пять лет. Работает?

Увы, невозможно создать рынок, регулируемый двумя разными способами, и сравнить результаты. В ЕС действует GDPR уже несколько лет: не существует ЕС того же периода, в котором его не было бы. Контрольные группы, одна из основ эмпиризма, нелегко найти в регулирующих органах, и тем более в правовой системе. Система присяжных рассматривает дело с участием нескольких независимых экспертов, в то время как последняя инстанция в верховных судах рассматривает самые сложные дела, которые также представляются на рассмотрение коллегии. Не существует параллельной, другой системы. Как такое могло быть?

Именно здесь природа ИИ может намекать на нормативную основу для ответственной интеграции машин в дела человечества. Существует не один ИИ, существует множество моделей, аппаратных платформ, подходов и экспериментов. Это машины, и мы можем производить столько, сколько нам нужно. Окончательная истина в конечном счете непознаваема, но работоспособный консенсус достижим – или даже работоспособное большинство.

Если у вас есть критическая задача, в которой задействован ИИ, и нет возможности сразу обнаружить ляп, параллельно займитесь еще одной. И другой. Сравните ответы. Если вы не можете найти достаточно независимых ИИ для решения конкретной проблемы, не используйте ИИ, пока не сможете.

Избыточность — мощное оружие против ошибок. Аполлон добрался до Луны не потому, что системы были совершенны, а потому, что у них была избыточность в ожидании отказа. Советские пилотируемые полеты на Луну отказались от этого в пользу того, что выглядело как целесообразность, но закончились позором.

Нам не нужно доверять ИИ, и это тоже хорошо – что такое истина? Оно знает не больше, чем мы. Но мы создали работоспособное общество вокруг систем, которые доверяют и проверяют, и мы видим, что это работает как на судьях, так и на реактивных самолетах. Философия, потенциал и подводные камни наших все более вдумчивых товарищей со временем прояснятся, нам просто нужно просто расположить шансы в свою пользу, пока мы можем. Что бы мы ни делали, мы не сможем отмыть руки. ®

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://go.theregister.com/feed/www.theregister.com/2024/01/02/opinion_ai/