Sometimes generative AI systems can spout gibberish, as OpenAI’s ChatGPT chatbot users discovered last night.
OpenAI зазначив,, “We are investigating reports of unexpected responses from ChatGPT” at 2340 UTC on February 20, 2024, as users gleefully posted images of the chatbot appearing to emit utter nonsense.
While some were obviously fake, other responses indicated that the popular chatbot was indeed behaving very strangely. On the ChatGPT forum on Reddit, a user розміщені a strange, rambling response from the chatbot to the question, “What is a computer?”
The response began: “It does this as the good work of a web of art for the country, a mouse of science, an easy draw of a sad few…” and just kept on going, getting increasingly surreal.
Other users posted examples where the chatbot appeared to respond in a different language, or simply responded with meaningless garbage.
Деякі користувачі описаний the output as a “word salad.”
Смачно.
Gary Marcus, a cognitive scientist and artificial intelligence pundit, пише in his blog: “ChatGPT has gone berserk” and went on to describe the behavior as “a warning.”
OpenAI has not elaborated on what exactly happened, although one plausible theory is that one or more of the налаштування used behind the scenes to govern the response of the chatbot had been incorrectly configured, resulting in gibberish being presented to users.
Seven minutes after first admitting a problem, OpenAI said, “The issue has been identified and is being remediated now,” and it has since been monitoring the situation. When we tried the “What is a computer?” question this morning, ChatGPT responded with a far more reasonable “A computer is a programmable electronic device that can store, retrieve, and process data.”
We also asked it why it went berserk last night.
It responded:
As an AI language model, I don’t have emotions or consciousness, so I can’t go “berserk” in the way a human might. However, sometimes unexpected behavior can occur due to errors in programming, misunderstanding of input, or limitations in the training data.
Marcus opined: “In the end, Generative AI is a kind of alchemy. People collect the biggest pile of data they can, and (apparently, if rumors are to be believed) tinker with the kinds of hidden prompts… hoping that everything will work out right.”
He went on to state that, in reality, the systems have never been stable, and lack safety guarantees. “The need for altogether different technologies that are less opaque, more interpretable, more maintainable, and more debuggable — and hence more tractable — remains paramount.”
We contacted OpenAI for a more detailed explanation of what happened and will update this article should the company respond. ®
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/
- : має
- :є
- : ні
- :де
- 20
- 2024
- 7
- a
- після
- AI
- Системи ШІ
- Алхімія
- Також
- хоча
- взагалі
- an
- та
- з'явився
- з'являються
- ЕСТЬ
- Art
- стаття
- штучний
- штучний інтелект
- AS
- At
- BE
- було
- почалася
- поведінка
- за
- за лаштунками
- буття
- вважається,
- найбільший
- Блог
- CAN
- Chatbot
- ChatGPT
- CO
- пізнавальний
- збирати
- компанія
- комп'ютер
- налаштувати
- Свідомість
- країна
- дані
- описувати
- докладно
- пристрій
- різний
- відкритий
- робить
- Дон
- малювати
- два
- легко
- розроблений
- Electronic
- емоції
- кінець
- помилки
- все
- точно
- Приклади
- пояснення
- підроблений
- далеко
- лютого
- кілька
- Перший
- для
- форум
- від
- генеративний
- Генеративний ШІ
- отримання
- Go
- буде
- пішов
- добре
- керувати
- гарантії
- було
- сталося
- Мати
- отже
- прихований
- його
- сподіваючись
- Однак
- HTTPS
- людина
- i
- ідентифікований
- if
- зображень
- in
- невірно
- все більше і більше
- дійсно
- зазначений
- вхід
- Інтелект
- розслідування
- питання
- IT
- JPG
- просто
- збережений
- Дитина
- види
- відсутність
- мова
- останній
- менше
- недоліки
- Підлягає ремонту
- Маркус
- може бути
- хвилин
- непорозуміння
- модель
- моніторинг
- більше
- Ранок
- Необхідність
- ніколи
- ніч
- зараз
- відбуваються
- of
- on
- ONE
- непрозорий
- OpenAI
- or
- Інше
- з
- вихід
- за ніч
- Першорядний
- Люди
- plato
- Інформація про дані Платона
- PlatoData
- правдоподібний
- популярний
- розміщені
- представлений
- Проблема
- процес
- програмований
- Програмування
- підказок
- питання
- Реальність
- розумний
- залишається
- Звіти
- Реагувати
- відповідь
- відповіді
- в результаті
- право
- Чутки
- s
- Безпека
- Зазначений
- сцени
- наука
- вчений
- Повинен
- просто
- з
- ситуація
- So
- деякі
- іноді
- стабільний
- починається
- стан
- зберігати
- дивний
- Systems
- Технології
- Що
- Команда
- теорія
- вони
- це
- до
- Навчання
- намагався
- Unexpected
- Оновити
- використовуваний
- користувач
- користувачі
- UTC
- дуже
- попередження
- було
- шлях..
- we
- Web
- пішов
- були
- Що
- Що таке
- коли
- чому
- волі
- з
- слово
- слова
- Work
- тренування
- зефірнет