Керівники лабораторії повідомили цього тижня на Всесвітньому економічному форумі (ВЕФ) у Давосі, що OpenAI розробляє можливості кібербезпеки на основі штучного інтелекту для армії США та активізує роботу з безпеки виборів.
Суспільне обговорення роботи зі збройними силами відбувається через кілька днів після змінити в Мова політики OpenAI, яка раніше забороняла використовувати генеративні моделі штучного інтелекту для «військових і військових» програм, а також «генерування шкідливого програмного забезпечення» з його технологією. Тепер ці обмеження зникли з дрібного шрифту виробника ChatGPT. Тим не менш, суперлабораторія підкреслила, що її технологія все ще не повинна використовуватися для насильства, руйнування або комунікаційного шпигунства.
«Наша політика не дозволяє використовувати наші інструменти, щоб завдати шкоди людям, розробити зброю, стежити за комунікаціями, поранити інших чи знищити майно», — сказав представник OpenAI. Реєстр сьогодні.
«Однак є випадки використання з питань національної безпеки, які відповідають нашій місії.
«Ми вже працюємо з DARPA, щоб стимулювати створення нових інструментів кібербезпеки для захисту програмного забезпечення з відкритим кодом, від якого залежить критична інфраструктура та галузь. Не було зрозуміло, чи були б ці випадки корисного використання дозволені під «військовим» у наших попередніх політиках. Тож мета нашого оновлення політики — забезпечити ясність і можливість вести ці обговорення».
У вівторок під час ан інтерв'ю На конференції WEF для лідерів світу віце-президент OpenAI з глобальних питань Анна Маканджу заявила, що партнерство з Пентагоном включає розробку програмного забезпечення для кібербезпеки з відкритим кодом. За її словами, OpenAI також починає переговори з урядом США про те, як його технологія може допомогти запобігти самогубствам ветеранів.
«Оскільки раніше у нас була, по суті, загальна заборона на військові засоби, багато людей думали, що це заборонить багато з цих випадків використання, які, на думку людей, дуже узгоджуються з тим, що ми хочемо бачити у світі», — сказав Маканджу.
Однак, незважаючи на видалення «військових справ і війни» разом з іншими «забороненими способами використання» для ChatGPT, Маканджу сказав, що OpenAI зберігає заборону на використання своїх моделей для розробки зброї, щоб завдати шкоди людям.
Крім того, під час того ж інтерв’ю генеральний директор OpenAI Сем Альтман сказав, що бізнес вживає заходів, щоб гарантувати, що його генеративні інструменти ШІ не використовуються для поширення дезінформації, пов’язаної з виборами.
Звідси також випливає аналогічне поштовх від Microsoft, найбільшого інвестора OpenAI, який у листопаді оголосив про п’ятиетапну стратегію захисту виборів для «Сполучених Штатів та інших країн, де в 2024 році відбудуться важливі вибори».
«На кону цих виборів багато чого», — сказав Альтман у вівторок.
Це сталося через день після колишнього президента США Дональда Трампа велика перемога на зборах в Айові в понеділок.
І всі ці теми — штучний інтелект, кібербезпека та дезінформація — відіграють важливу роль у порядку денному, оскільки зустрілися світові лідери цього тижня в Давосі.
За матеріалами WEF Звіт про глобальні ризики 2024, опублікованому минулого тижня, «дезінформація та дезінформація» є головним короткостроковим глобальним ризиком, а «кібербезпека» займає четверте місце.
Розвиток генеративного штучного інтелекту загострює ці проблеми: 56 відсотків керівників опитали WEF Щорічна зустріч з кібербезпеки у листопаді 2023 року генеративний ШІ дасть нападникам перевагу над захисниками протягом наступних двох років.
«Особливе занепокоєння викликає використання технологій штучного інтелекту для посилення можливостей ведення кібервійни, і це має поважну причину», — сказав Бернар Монтел, технічний директор Tenable у регіоні EMEA. Реєстр.
«Хоча ШІ досяг астрономічних технологічних успіхів за останні 12-24 місяці, дозволити автономному пристрою виносити остаточне рішення сьогодні є незрозумілим», — додав він.
«Хоча штучний інтелект здатний швидко визначати й автоматизувати деякі дії, які необхідно виконати, вкрай важливо, щоб люди приймали важливі рішення щодо того, де і коли діяти на основі інтелекту, наданого ШІ». ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/01/16/us_military_openai/
- : має
- :є
- : ні
- :де
- 12
- 2023
- 2024
- 24
- 7
- a
- здатність
- Діяти
- дії
- доданий
- досягнення
- Справи
- після
- порядок денний
- AI
- Моделі AI
- Можливість
- вирівнювати
- вирівняні
- ВСІ
- дозволяти
- дозволено
- Дозволити
- по
- вже
- Також
- an
- та
- оголошений
- застосування
- ЕСТЬ
- озброєний
- AS
- At
- автоматизація
- автономний
- Заборона
- BE
- оскільки
- було
- корисний
- бізнес
- Bloomberg
- підвищення
- by
- CAN
- можливості
- здатний
- випадків
- Генеральний директор
- проблеми
- ChatGPT
- ясність
- ясно
- CNN
- CO
- приходить
- майбутній
- зв'язку
- Занепокоєння
- країни
- створення
- створення нових
- критичний
- Критична інфраструктура
- кібер-
- Кібербезпека
- дарпа
- davos
- день
- Днів
- рішення
- Захисники
- залежати
- Незважаючи на
- знищити
- розвивати
- розвивається
- пристрій
- Директор
- обговорення
- дезінформація
- робить
- Дональд
- Дональд Трамп
- під час
- Економічний
- Економічний форум
- Вибори
- Вибори
- в регіоні EMEA
- забезпечувати
- шпигунство
- по суті
- Execs
- керівництво
- остаточний
- кінець
- слідує
- для
- Війська
- Колишній
- форум
- чотири
- від
- Передача
- покоління
- генеративний
- Генеративний ШІ
- отримати
- Давати
- Глобальний
- мета
- добре
- Уряд
- було
- шкодити
- Мати
- he
- допомога
- Високий
- Як
- Однак
- HTML
- HTTPS
- Людей
- Біль
- ідентифікує
- імператив
- in
- includes
- незрозуміло
- промисловість
- Інфраструктура
- небезпека
- Інтелект
- інтерв'ю
- в
- інвестор
- Айова
- isn
- IT
- ЙОГО
- JPG
- lab
- мова
- найбільших
- останній
- Лідери
- серія
- made
- підтримує
- зробити
- виробник
- Робить
- шкідливих програм
- багато
- багато людей
- засідання
- військовий
- Дезінформація
- Місія
- Моделі
- понеділок
- місяців
- багато
- National
- національна безпека
- Необхідність
- Нові
- наступний
- Листопад
- зараз
- номер
- of
- on
- ті,
- відкрити
- з відкритим вихідним кодом
- OpenAI
- or
- Інше
- інші
- наші
- над
- приватність
- Партнерство
- п'ятикутник
- Люди
- відсотків
- місце
- plato
- Інформація про дані Платона
- PlatoData
- Play
- Політика
- політика
- президент
- Президент Дональд Трамп
- запобігати
- попередній
- раніше
- друк
- заборонено
- Заборона
- видатний
- власність
- захист
- забезпечувати
- забезпечує
- громадськість
- опублікований
- швидко
- причина
- видалення
- звітом
- Зростання
- Risk
- ризики
- ролі
- s
- Зазначений
- Сем
- Сем Альтман
- то ж
- приказка
- безпечний
- безпеку
- побачити
- вона
- ПЕРЕМІЩЕННЯ
- короткий термін
- аналогічний
- So
- Софтвер
- деякі
- Source
- доповідач
- поширення
- частка
- Починаючи
- Штати
- заходи
- Як і раніше
- Стратегія
- Super
- передбачуваний
- спостереження
- опитаних
- Приймати
- прийняті
- взяття
- Переговори
- технічний
- технологічний
- Технології
- Технологія
- Що
- Команда
- світ
- Там.
- Ці
- думати
- це
- На цьому тижні
- ті
- думка
- до
- сьогодні
- сказав
- інструменти
- топ
- теми
- козир
- Вівторок
- два
- при
- United
- Сполучені Штати
- Оновити
- us
- нас уряд
- Американські військові
- Президент США
- використання
- використовуваний
- використання
- дуже
- ветеран
- Насильство
- vp
- хотіти
- було
- we
- Зброя
- week
- ВЕФ
- ДОБРЕ
- Що
- коли
- Чи
- який
- в той час як
- волі
- з
- в
- Work
- робочий
- світ
- Всесвітнього Економічного Форуму (World Economic Forum)
- б
- років
- зефірнет