OpenAI разрабатывает возможности кибербезопасности на базе искусственного интеллекта для вооруженных сил США и активизирует работу по обеспечению безопасности выборов, сообщили руководители лаборатории на Всемирном экономическом форуме (ВЭФ) в Давосе на этой неделе.
Публичный поворот в вопросе сотрудничества с вооруженными силами произошел через несколько дней после изменить в Язык политики OpenAI, который ранее запрещал использование ее генеративных моделей ИИ для «военных и военных» приложений, а также «генерацию вредоносного ПО» с помощью ее технологии. Эти ограничения теперь исчезли из мелкого шрифта создателя ChatGPT. Тем не менее, в суперлаборатории подчеркнули, что ее технология по-прежнему не должна использоваться для насилия, разрушения или коммуникационного шпионажа.
«Наша политика не позволяет использовать наши инструменты для причинения вреда людям, разработки оружия, наблюдения за коммуникациями, нанесения вреда другим людям или уничтожения собственности», — заявил представитель OpenAI. Регистр прямо сейчас
«Однако есть варианты использования в области национальной безопасности, которые соответствуют нашей миссии.
«Мы уже работаем с DARPA, чтобы стимулировать создание новых инструментов кибербезопасности для защиты программного обеспечения с открытым исходным кодом, от которого зависят критически важная инфраструктура и промышленность. Было неясно, были ли эти выгодные варианты использования разрешены в рамках «военных» наших предыдущих политик. Поэтому цель нашего обновления политики — обеспечить ясность и возможность проводить эти обсуждения».
Во вторник, во время интервью На вечеринке ВЭФ для лидеров мира вице-президент OpenAI по глобальным вопросам Анна Маканджу заявила, что ее партнерство с Пентагоном включает разработку программного обеспечения для кибербезопасности с открытым исходным кодом. По ее словам, OpenAI также начинает переговоры с правительством США о том, как ее технология может помочь предотвратить самоубийства среди ветеранов.
«Поскольку раньше у нас был, по сути, полный запрет на военные действия, многие люди думали, что это запретит многие из этих вариантов использования, которые, по мнению людей, во многом соответствуют тому, что мы хотим видеть в мире», — сказал Маканджу.
Однако, несмотря на удаление слов «военное дело и военное дело» вместе с другими «запрещенными вариантами использования» для ChatGPT, Маканджу заявил, что OpenAI сохраняет запрет на использование своих моделей для разработки оружия, причиняющего вред людям.
Также в том же интервью генеральный директор OpenAI Сэм Альтман заявил, что компания предпринимает шаги для обеспечения того, чтобы ее инструменты генеративного искусственного интеллекта не использовались для распространения дезинформации, связанной с выборами.
Это также следует за подобным нажать Microsoft, крупнейшего инвестора OpenAI, который в ноябре объявил о пятиступенчатой стратегии защиты выборов для «Соединенных Штатов и других стран, где в 2024 году пройдут важные выборы».
«На этих выборах очень многое поставлено на карту», — заявил Альтман во вторник.
Это произошло на следующий день после заявления бывшего президента США Дональда Трампа. большая победа на собрании в Айове в понедельник.
И все эти темы — искусственный интеллект, кибербезопасность и дезинформация — играют важную роль в повестке дня, поскольку мировые лидеры встречаются на этой неделе в Давосе.
По данным ВЭФ Отчет о глобальных рисках 2024В докладе, опубликованном на прошлой неделе, «дезинформация и дезинформация» являются главным краткосрочным глобальным риском, а «кибербезопасность» занимает четвертое место.
Рост генеративного искусственного интеллекта усугубляет эти проблемы: 56 процентов руководителей, опрошенных на конференции ВЭФ Ежегодное собрание по кибербезопасности в ноябре 2023 года говоря генеративный ИИ даст злоумышленникам преимущество над защитниками в течение следующих двух лет.
«Особое беспокойство вызывает использование технологий искусственного интеллекта для усиления возможностей кибервойны, и на это есть веские причины», — сказал Бернард Монтель, технический директор Tenable в регионе EMEA. Регистр.
«Хотя за последние 12–24 месяца ИИ добился астрономических технологических достижений, позволить автономному устройству выносить окончательное решение сегодня непостижимо», — добавил он.
«Хотя ИИ способен быстро идентифицировать и автоматизировать некоторые действия, которые необходимо предпринять, крайне важно, чтобы именно люди принимали важные решения о том, где и когда действовать, исходя из интеллекта, который предоставляет ИИ». ®
- SEO-контент и PR-распределение. Получите усиление сегодня.
- PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
- ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
- ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
- ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
- Источник: https://go.theregister.com/feed/www.theregister.com/2024/01/16/us_military_openai/
- :имеет
- :является
- :нет
- :куда
- 12
- 2023
- 2024
- 24
- 7
- a
- способность
- Действие (Act):
- действия
- добавленный
- достижения
- Дела
- После
- повестка дня
- AI
- AI модели
- Поддержка
- выравнивать
- выровненный
- Все
- позволять
- разрешено
- Позволяющий
- вдоль
- уже
- причислены
- an
- и
- объявило
- Приложения
- МЫ
- вооруженный
- AS
- At
- Автоматизация
- автономный
- Запрет
- BE
- , так как:
- было
- полезный
- biz
- Bloomberg
- повышение
- by
- CAN
- возможности
- способный
- случаев
- Генеральный директор
- проблемы
- ChatGPT
- ясность
- Очистить
- CNN
- CO
- выходит
- приход
- Связь
- Беспокойство
- страны
- создание
- создание новых
- критической
- Критическая инфраструктура
- кибер-
- Информационная безопасность
- DARPA
- Давос
- день
- Дней
- решения
- Защитники
- зависеть
- Несмотря на
- уничтожить
- развивать
- развивающийся
- устройство
- директор
- обсуждение
- дезинформация
- приносит
- Дональд
- Дональд Трамп
- в течение
- Экономические
- Экономический форум
- выборы
- Выборы
- в регионе EMEA
- обеспечивать
- шпионаж
- по существу
- Execs
- руководителей высшего звена.
- окончательный
- конец
- следующим образом
- Что касается
- Войска
- Бывший
- Форум
- 4
- от
- принадлежности
- поколение
- генеративный
- Генеративный ИИ
- получить
- Дайте
- Глобальный
- цель
- хорошо
- Правительство
- было
- вред
- Есть
- he
- помощь
- High
- Как
- Однако
- HTML
- HTTPS
- Людей
- Опт
- идентифицирующий
- императив
- in
- включает в себя
- непостижимый
- промышленность
- Инфраструктура
- нестабильность
- Интеллекта
- Интервью
- в
- инвестор
- Айова
- мобильной
- IT
- ЕГО
- JPG
- лаборатория
- язык
- крупнейших
- Фамилия
- Лидеры
- серия
- сделанный
- поддерживает
- сделать
- производитель
- Создание
- вредоносных программ
- многих
- много людей
- заседания
- военный
- дезинформация
- Наша миссия
- Модели
- понедельник
- месяцев
- много
- национальный
- Национальная безопасность
- Необходимость
- Новые
- следующий
- Ноябрь
- сейчас
- номер
- of
- on
- те,
- открытый
- с открытым исходным кодом
- OpenAI
- or
- Другое
- Другое
- наши
- за
- особый
- Партнерство
- пятиугольник
- Люди
- процент
- Часть
- Платон
- Платон Интеллектуальные данные
- ПлатонДанные
- Играть
- сборах
- политика
- президент
- Президент Дональд Трамп
- предотвращать
- предыдущий
- предварительно
- Печать / PDF
- запретила
- Запрещение
- видный
- собственность
- защиту
- обеспечивать
- приводит
- что такое варган?
- опубликованный
- быстро
- причина
- удаление
- отчету
- Рост
- Снижение
- рисках,
- роли
- s
- Сказал
- Сэм
- Сэм Альтман
- то же
- поговорка
- безопасный
- безопасность
- посмотреть
- она
- СДВИГАЯ
- краткосрочный
- аналогичный
- So
- Software
- некоторые
- Источник
- докладчик
- распространение
- доля
- Начало
- Области
- Шаги
- По-прежнему
- Стратегия
- супер
- предполагаемый
- наблюдение
- опрошенных
- взять
- приняты
- с
- переговоры
- Технический
- технологический
- технологии
- Технологии
- который
- Ассоциация
- мир
- Там.
- Эти
- think
- этой
- На этой неделе
- те
- мысль
- в
- сегодня
- заявил
- инструменты
- топ
- Темы
- козырь
- вторник
- два
- под
- Объединенный
- США
- Обновление ПО
- us
- правительство США
- Американские военные
- Президент США
- использование
- используемый
- через
- очень
- ветеран
- Насилие
- vp
- хотеть
- законопроект
- we
- Оружие
- неделя
- ВЭФ
- ЧТО Ж
- Что
- когда
- будь то
- , которые
- в то время как
- будете
- в
- Работа
- работает
- Мир
- Всемирный экономический форум
- бы
- лет
- зефирнет