ТОКІО, 26 вересня 2023 р. – (JCN Newswire) – Fujitsu сьогодні оголосила про запуск двох нових технологій довіри ШІ для підвищення надійності відповідей розмовних моделей ШІ. Нещодавно розроблені технології включають методику виявлення галюцинацій у розмовних моделях штучного інтелекту – явище, за якого генеративний штучний інтелект створює неправильні або непов’язані результати – та методику, спільно розроблену в невеликій дослідницькій лабораторії (1) в Університеті Бен-Гуріона для виявлення URL-адрес фішингових сайтів, імплантованих у відповіді ШІ через атаки отруєння, які вводять неправдиву інформацію.
Завдяки новим технологіям Fujitsu прагне надати корпоративним і індивідуальним користувачам інструмент для оцінки надійності відповідей розмовного штучного інтелекту, що в кінцевому підсумку сприяє більш безпечному використанню штучного інтелекту в різних випадках використання, включно з компаніями, які прагнуть запровадити технологію в фактичні операції.
Професор Юваль Еловічі з Університету Бен-Гуріона коментує: «Генеративний штучний інтелект є критично важливою сферою, і в її рамках технологія виявлення галюцинацій, розроблена Fujitsu, стає ключовою для створення надійних розмовних систем ШІ. Дослідники з Університету Бен-Гуріона (BGU) і Fujitsu запровадили інноваційну техніку для підвищення безпеки фільтрації URL-адрес на основі штучного інтелекту від агресивних загроз. Наш прорив зосереджений на табличних даних, завдяки чому створено більш стійкий механізм захисту від агресивних атак у сфері фільтрації URL-адрес, керованої ШІ. Рухаючись вперед, Fujitsu та Університет Бен-Гуріона збираються співпрацювати над створенням нових досягнень, орієнтованих на безпеку, у сфері Generative AI».
Fujitsu включить ці нові технології у свій базовий механізм розмовного штучного інтелекту, який надається через «Fujitsu Kozuchi (кодова назва) – платформа Fujitsu AI», яка пропонує користувачам доступ до широкого спектру потужних технологій штучного інтелекту та машинного навчання. Технологія виявлення галюцинацій у розмовному ШІ буде доступна для користувачів у Японії з 28 вересня 2023 року, а технологія виявлення URL-адрес фішингових сайтів у відповідях розмовного ШІ – з жовтня 2023 року. Нові технології будуть доступні корпоративним користувачам як демонстраційне середовище через Kozuchi та окремим користувачам через спеціальний сайт порталу (2). У майбутньому Fujitsu планує вивести обидві технології на світовий ринок.
Застосовуючи розмовний ШІ в бізнес-операціях, компанії часто використовують цю технологію для отримання інформації, пов’язаної з запитаннями, із попередньо зареєстрованих бізнес-даних і додають ці дані як довідкову інформацію, коли задають питання зовнішньому розмовному ШІ. Хоча цей метод забезпечує точні відповіді та зменшує галюцинації, повне запобігання галюцинаціям є постійною проблемою, оскільки розмовний ШІ в деяких випадках не може правильно витягти інформацію, пов’язану із запитаннями, і, відповідно, створює непов’язані, неправильні відповіді. Хоча методи оцінки ступеня, до якого відповідь ШІ може бути галюцинацією (оцінка галюцинацій), точна оцінка цього балу залишається складним завданням, оскільки розмовний ШІ використовує різні фрази для вираження одного факту.
Базуючись на спостереженні про те, що розмовний штучний інтелект часто генерує неправильну інформацію для власних іменників і чисел, а зміст відповідей, як правило, відрізняється при повторюваних запитаннях, Fujitsu розробила технологію для визначення та зосередження на частинах речень, де ймовірно виникають галюцинації.
Щоб розрахувати дуже точний бал галюцинації, нова технологія спочатку розбиває відповідь ШІ на три частини (суб’єкт, предикат, об’єкт тощо), а потім автоматично визначає названі сутності у відповіді. На наступному етапі технологія залишає ці іменовані об’єкти порожніми та неодноразово запитує зовнішній ШІ більш точно визначити ці конкретні вирази. (Малюнок 2)
Компанія Fujitsu перевірила цю технологію, використовуючи відкриті дані, зокрема WikiBio GPT-3 Hallucination Dataset (3) і виявив, що це може підвищити точність виявлення (AUC-ROC) (4) приблизно на 22% порівняно з іншими найсучаснішими методами виявлення галюцинацій ШІ, такими як SelfCheckGPT (5).
Оскільки розмовний ШІ створює відповіді на основі своїх навчальних даних, ворожі об’єкти можуть обманом змусити ШІ створювати відповіді, які містять маніпулювану інформацію, таку як фішингові URL-адреси, які ведуть на підроблені веб-сайти, шляхом імплантації шкідливої інформації в навчальні дані ШІ.
Щоб вирішити цю проблему, Fujitsu розробила технологію виявлення підроблених URL-адрес у відповідях розмовного ШІ. Коли технологія ідентифікує фішингову URL-адресу, вона видає користувачам попередження.
Нова технологія Fujitsu не тільки виявляє фішингові URL-адреси, але й підвищує стійкість штучного інтелекту проти існуючих атак, які обманом змушують моделі штучного інтелекту робити навмисно помилкові оцінки, щоб забезпечити високонадійну відповідь ШІ. Нещодавно розроблена технологія використовує метод, спільно розроблений Fujitsu та Університетом Бен-Гуріона в Негеві в Малій дослідницькій лабораторії Fujitsu, створеній в Університеті Бен-Гуріона. Технологія використовує тенденцію, коли ворожі об’єкти часто атакують один тип моделі ШІ, і виявляє зловмисні дані, обробляючи інформацію різними моделями ШІ та оцінюючи різницю в обґрунтуванні результату судження.
Цю технологію можна використовувати не лише для виявлення фішингових URL-адрес, але й для запобігання загальним атакам, спрямованим на введення в оману моделей штучного інтелекту, які використовують табличні дані, і, таким чином, також може використовуватися для уникнення атак на інші служби.
[1] Мала дослідницька лабораторія Fujitsu:Ініціатива, за якою дослідники Fujitsu працюють у технологічних інкубаторах в університетах Японії та за кордоном для проведення спільних досліджень з деякими провідними умами у своїх галузях, включаючи професорів, а також наступне покоління дослідників.
[2] Індивідуальні користувачі також можуть випробувати розширені API та веб-додатки Fujitsu, створивши обліковий запис на дослідницькому порталі Fujitsu. (Fujitsu Research Portal: портал, відкритий для громадськості з червня 2023 року, щоб надати зареєстрованим користувачам доступ до пробних версій передових технологій Fujitsu. Fujitsu пропонує передові технології корпоративним користувачам через «Fujitsu Kozuchi (кодова назва) – Fujitsu AI Platform» і окремим користувачам через цей портал.)
[3] Набір даних про галюцинації WikiBio GPT-3:Порівняльні дані на основі Вікіпедії для виявлення галюцинацій
[4] AUC-ROC (площа під кривою робочої характеристики приймача):Площа під кривою кривої, отриманої, коли порогове значення судження змінюється щодо оцінки аномалії шляхом розміщення істинного позитивного показника на вертикальній осі та хибного позитивного показника на горизонтальній осі. Випадкова оцінка аномалії становить 0.5, а ідеальна відповідь — 1.0. Зазвичай вважається, що певного рівня продуктивності можна досягти, коли він перевищує 0.7.
[5] SelfCheckGPT:Технологія виявлення галюцинацій, розроблена в Кембриджському університеті, Великобританія
Прихильність Fujitsu до цілей сталого розвитку (ЦУР)
Цілі сталого розвитку (ЦСР), прийняті Організацією Об’єднаних Націй у 2015 році, являють собою набір загальних цілей, які мають бути досягнуті у всьому світі до 2030 року. Мета Fujitsu — «зробити світ більш стійким шляхом створення довіри в суспільстві за допомогою інновацій» — це обіцянка внести свій внесок у бачення кращого майбутнього завдяки ЦУР.
Про Fujitsu
Мета Fujitsu — зробити світ більш стійким, зміцнюючи довіру в суспільстві за допомогою інновацій. Наші 100 124,000 співробітників, як обраного партнера з цифрової трансформації для клієнтів у понад 6702 країнах, працюють над вирішенням деяких із найбільших проблем, з якими стикається людство. Наш асортимент послуг і рішень базується на п’яти ключових технологіях: обчислення, мережі, штучний інтелект, дані та безпека та конвергентні технології, які ми об’єднуємо для трансформації сталого розвитку. Fujitsu Limited (TSE:3.7) повідомила про консолідований дохід у розмірі 28 трильйона ієн (31 мільярди доларів США) за фінансовий рік, який закінчився 2023 березня XNUMX року, і залишається провідною компанією з цифрових послуг у Японії за часткою ринку. Дізнатися більше: www.fujitsu.com.
Контакти для преси:
Fujitsu Limited
Відділ зв'язків з громадськістю та інвесторами
Запити (https://bit.ly/3rrQ4mB)
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://www.jcnnewswire.com/pressrelease/86719/3/
- : має
- :є
- : ні
- :де
- 000
- 1
- 100
- 2015
- 2023
- 2030
- 26%
- 28
- 31
- 7
- a
- доступ
- відповідно
- рахунки
- точність
- точний
- точно
- досягнутий
- через
- фактичний
- додавати
- адреса
- прийнята
- просунутий
- досягнення
- змагальність
- проти
- попереду
- AI
- Моделі AI
- Платформа AI
- Системи ШІ
- Навчання AI
- прицілювання
- Цілі
- Також
- хоча
- an
- та
- оголошений
- відповідь
- Інтерфейси
- застосування
- Застосування
- приблизно
- ЕСТЬ
- ПЛОЩА
- AS
- запитувач
- At
- атака
- нападки
- автоматично
- доступний
- уникнути
- Вісь
- заснований
- BE
- було
- Бен
- Бен Гуріон
- Університет Бен-Гуріона
- орієнтир
- Краще
- Мільярд
- обидва
- ламається
- прорив
- приносити
- Створюємо
- бізнес
- підприємства
- але
- by
- обчислювати
- Кембридж
- CAN
- випадків
- певний
- проблеми
- змінилися
- характеристика
- вибір
- код
- співпрацювати
- коментарі
- зобов'язання
- загальний
- компанія
- порівняний
- повний
- обчислення
- Проводити
- вважається
- Наші контакти
- зміст
- сприяти
- внесок
- сходяться
- Конвергентні технології
- діалоговий
- розмовний ШІ
- Core
- Корпоративний
- може
- країни
- створює
- створення
- критичний
- крива
- Клієнти
- дані
- присвячених
- оборони
- визначати
- Ступінь
- доставляти
- демонстрація
- виявляти
- Виявлення
- розвиненою
- розробка
- відрізняються
- різниця
- різний
- важкий
- цифровий
- цифрові послуги
- компанія цифрових послуг
- цифрове перетворення
- Роздільна
- домен
- вниз
- малювати
- вбудований
- виникає
- співробітників
- уповноважений
- що закінчився
- двигун
- підвищувати
- забезпечувати
- юридичні особи
- Навколишнє середовище
- встановлений
- налагодження
- оцінити
- і т.д.
- оцінювати
- оцінки
- існуючий
- експрес
- вирази
- зовнішній
- витяг
- облицювання
- факт
- підроблений
- false
- Поля
- Рисунок
- фільтрація
- знайти
- Перший
- Фіскальний
- п'ять
- Сфокусувати
- фокусується
- для
- Кування
- знайдений
- часто
- від
- Fujitsu
- майбутнє
- Загальне
- в цілому
- генерує
- покоління
- генеративний
- Генеративний ШІ
- Глобальний
- глобальний ринок
- Цілі
- найбільший
- Мати
- вище
- дуже
- Горизонтальний
- HTTPS
- Людство
- ідентифікує
- ідентифікувати
- зображення
- здійснювати
- удосконалювати
- in
- включати
- У тому числі
- Збільшує
- Інкубатори
- індивідуальний
- інформація
- вводити
- інновація
- інноваційний
- на міжнародному рівні
- в
- інвестор
- Відділ зв'язків з інвесторами
- питання
- питання
- IT
- ЙОГО
- Japan
- спільна
- JPG
- червень
- ключ
- lab
- запуск
- запуски
- вести
- провідний
- рівень
- важелі
- Ймовірно
- обмеженою
- зробити
- Робить
- маніпулювати
- березня
- ринок
- частка ринку
- механізм
- повідомлення
- метод
- методика
- може бути
- умів
- ML
- модель
- Моделі
- більше
- переміщення
- ім'я
- Названий
- націй
- мереж
- Нові
- Нові технології
- нещодавно
- Стрічка новин
- наступний
- іменники
- роман
- номера
- об'єкт
- отриманий
- жовтень
- of
- Пропозиції
- часто
- on
- один раз
- постійний
- тільки
- відкрити
- відкриті дані
- операційний
- операції
- or
- Інше
- наші
- з
- вихід
- над
- огляд
- партнер
- частини
- ідеальний
- продуктивність
- явище
- phishing
- фрази
- вперше
- основний
- розміщення
- плани
- платформа
- plato
- Інформація про дані Платона
- PlatoData
- Портал
- позитивний
- потужний
- запобігати
- Попередження
- обробка
- обіцянку
- правильний
- захист
- забезпечувати
- за умови
- забезпечує
- громадськість
- мета
- питань
- випадковий
- діапазон
- ставка
- обгрунтування
- царство
- знижує
- зареєстрований
- пов'язаний
- відносини
- надійність
- надійний
- залишається
- повторний
- ПОВТОРНО
- відповісти
- Повідомляється
- представляти
- представляє
- дослідження
- Дослідники
- пружний
- Опір
- повага
- відповіді
- результат
- в результаті
- надходження
- то ж
- рахунок
- цур
- безпечний
- безпеку
- Сім
- Вересень
- Послуги
- послуги компанії
- комплект
- Поділитись
- з
- один
- сайт
- невеликий
- суспільство
- Рішення
- деякі
- конкретний
- стенди
- Починаючи
- впроваджений
- Крок
- тема
- такі
- Sustainability
- сталого
- Сталий розвиток
- Systems
- Завдання
- Технології
- Технологія
- ніж
- Що
- Команда
- Майбутнє
- світ
- їх
- потім
- Ці
- це
- загрози
- три
- поріг
- через
- Таким чином
- до
- сьогодні
- разом
- інструмент
- топ
- Навчання
- Перетворення
- партнер по трансформації
- суд
- трильйон
- правда
- Довіряйте
- Довірений
- заслуговуючий довіри
- намагатися
- TSE:6702
- два
- тип
- Зрештою
- не в змозі
- при
- United
- Об'єднані Нації
- університети
- університет
- Кембриджський університет
- URL
- використання
- використовуваний
- користувачі
- використовує
- використання
- значення
- різний
- версії
- вертикальний
- через
- бачення
- попередження
- we
- Web
- веб-додатки
- веб-сайти
- ДОБРЕ
- коли
- який
- в той час як
- широкий
- Широкий діапазон
- Вікіпедія
- волі
- з
- в
- Work
- світ
- світовий
- рік
- Ієна
- зефірнет