Czasami generatywne systemy AI mogą wyrzucać bełkot, jak odkryli wczoraj wieczorem użytkownicy chatbota ChatGPT OpenAI.
OpenAI zauważyć„Badamy raporty o nieoczekiwanych odpowiedziach od ChatGPT” o godzinie 2340:20 UTC, 2024 lutego XNUMX r., kiedy użytkownicy z radością publikowali zdjęcia chatbota, który wydawał się emitować kompletne bzdury.
Chociaż niektóre z nich były oczywiście fałszywe, inne odpowiedzi wskazywały, że popularny chatbot rzeczywiście zachowywał się bardzo dziwnie. Na forum ChatGPT na Reddicie użytkownik napisali dziwna, chaotyczna odpowiedź chatbota na pytanie: „Co to jest komputer?”
Odpowiedź zaczęła się: „Robi to jako dobre dzieło sieci sztuki dla kraju, mysz nauki, łatwe losowanie kilku smutnych…” i po prostu ciągnęła dalej, stając się coraz bardziej surrealistyczna.
Inni użytkownicy zamieścili przykłady, w których chatbot wydawał się odpowiadać w innym języku lub po prostu odpowiadał bezsensownymi śmieciami.
Niektórzy użytkownicy opisane wynik w postaci „sałatki słownej”.
Smaczne.
Gary Marcus, kognitywista i ekspert w dziedzinie sztucznej inteligencji, napisał na swoim blogu: „ChatGPT wpadł w szał”, a następnie opisał to zachowanie jako „ostrzeżenie”.
OpenAI nie wyjaśniło szczegółowo, co dokładnie się wydarzyło, chociaż jedna z wiarygodnych teorii głosi, że co najmniej jedna z nich w panelu ustawień używane za kulisami do zarządzania odpowiedzią chatbota zostały nieprawidłowo skonfigurowane, co spowodowało wyświetlanie użytkownikom bełkotu.
Siedem minut po pierwszym przyznaniu się do problemu OpenAI oznajmiło: „Problem został zidentyfikowany i jest obecnie naprawiany” i od tego czasu monitoruje sytuację. Kiedy próbowaliśmy zadać pytanie „Co to jest komputer?” na pytanie dzisiejszego ranka ChatGPT odpowiedział znacznie rozsądniej: „Komputer to programowalne urządzenie elektroniczne, które może przechowywać, odzyskiwać i przetwarzać dane”.
Zapytaliśmy go również, dlaczego wczoraj wieczorem wpadł w szał.
Odpowiedź brzmiała:
Jako model języka sztucznej inteligencji nie mam emocji ani świadomości, więc nie mogę wpaść w „szał” w sposób, w jaki mógłby to zrobić człowiek. Czasami jednak może wystąpić nieoczekiwane zachowanie z powodu błędów w programowaniu, niezrozumienia danych wejściowych lub ograniczeń danych szkoleniowych.
Marcus wyraził swoją opinię: „Ostatecznie generatywna sztuczna inteligencja jest rodzajem alchemii. Ludzie gromadzą największą ilość danych, jaką mogą, i (najwyraźniej, jeśli wierzyć plotkom) majstrują przy ukrytych podpowiedziach… mając nadzieję, że wszystko pójdzie dobrze.
Następnie stwierdził, że w rzeczywistości systemy nigdy nie były stabilne i brakuje im gwarancji bezpieczeństwa. „Zapotrzebowanie na zupełnie inne technologie, które są mniej nieprzejrzyste, łatwiejsze do interpretacji, łatwiejsze w utrzymaniu i debugowaniu, a przez to łatwiejsze w obsłudze, pozostaje najważniejsze”.
Skontaktowaliśmy się z OpenAI w celu uzyskania bardziej szczegółowego wyjaśnienia, co się stało, i zaktualizujemy ten artykuł, jeśli firma odpowie. ®
- Dystrybucja treści i PR oparta na SEO. Uzyskaj wzmocnienie już dziś.
- PlatoData.Network Pionowe generatywne AI. Wzmocnij się. Dostęp tutaj.
- PlatoAiStream. Inteligencja Web3. Wiedza wzmocniona. Dostęp tutaj.
- PlatonESG. Węgiel Czysta technologia, Energia, Środowisko, Słoneczny, Gospodarowanie odpadami. Dostęp tutaj.
- Platon Zdrowie. Inteligencja w zakresie biotechnologii i badań klinicznych. Dostęp tutaj.
- Źródło: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/
- :ma
- :Jest
- :nie
- :Gdzie
- 20
- 2024
- 7
- a
- Po
- AI
- Systemy SI
- Alchemia
- również
- Chociaż
- całkowicie
- an
- i
- pojawił się
- pojawia się
- SĄ
- Sztuka
- artykuł
- sztuczny
- sztuczna inteligencja
- AS
- At
- BE
- być
- rozpoczął
- zachowanie
- za
- za kulisami
- jest
- Uważa
- Najwyższa
- Blog
- CAN
- chatbot
- ChatGPT
- CO
- poznawczy
- zbierać
- sukcesy firma
- komputer
- skonfigurowany
- Świadomość
- kraj
- dane
- opisać
- szczegółowe
- urządzenie
- różne
- odkryty
- robi
- darowizna
- rysować
- z powodu
- łatwo
- opracowane
- Elektroniczny
- emocje
- zakończenia
- Błędy
- wszystko
- dokładnie
- przykłady
- wyjaśnienie
- imitacja
- daleko
- luty
- kilka
- i terminów, a
- W razie zamówieenia projektu
- Forum
- od
- generatywny
- generatywna sztuczna inteligencja
- miejsce
- Go
- będzie
- poszedł
- dobry
- rządzić
- gwarancji
- miał
- się
- Have
- stąd
- Ukryty
- jego
- nadzieję
- Jednak
- HTTPS
- człowiek
- i
- zidentyfikowane
- if
- zdjęcia
- in
- niepoprawnie
- coraz bardziej
- rzeczywiście
- wskazany
- wkład
- Inteligencja
- dochodzenie
- problem
- IT
- jpg
- właśnie
- trzymane
- Uprzejmy
- rodzaje
- Brak
- język
- Nazwisko
- mniej
- Ograniczenia
- Utrzymywane w utrzymaniu
- Marcus
- może
- minut
- nieporozumienie
- model
- monitorowanie
- jeszcze
- Rano
- Potrzebować
- nigdy
- noc
- już dziś
- występować
- of
- on
- ONE
- nieprzezroczysty
- OpenAI
- or
- Inne
- na zewnątrz
- wydajność
- w ciągu nocy
- najważniejszy
- Ludzie
- plato
- Analiza danych Platona
- PlatoDane
- do przyjęcia
- Popularny
- napisali
- przedstawione
- Problem
- wygląda tak
- programowalny
- Programowanie
- monity
- pytanie
- Rzeczywistość
- rozsądny
- szczątki
- Raporty
- Odpowiadać
- odpowiedź
- Odpowiedzi
- wynikły
- prawo
- Plotki
- s
- Bezpieczeństwo
- Powiedział
- Sceny
- nauka
- Naukowiec
- powinien
- po prostu
- ponieważ
- sytuacja
- So
- kilka
- czasami
- stabilny
- rozpocznie
- Stan
- sklep
- dziwny
- systemy
- Technologies
- że
- Połączenia
- teoria
- one
- to
- do
- Trening
- wypróbowany
- Nieoczekiwany
- Aktualizacja
- używany
- Użytkownik
- Użytkownicy
- UTC
- początku.
- ostrzeżenie
- była
- Droga..
- we
- sieć
- poszedł
- były
- Co
- Co to jest
- jeśli chodzi o komunikację i motywację
- dlaczego
- będzie
- w
- słowo
- słowa
- Praca
- odrobić
- zefirnet