Stack Overflow blokuje ChatGPT jako „znacząco szkodliwy” w przypadku problemów z kodowaniem

Odpowiadający na pytania bot OpenAI, ChatGPT, nie jest wystarczająco inteligentny dla zespołu Stack Overflow, który ogłosił dziś tymczasowy zakaz odpowiedzi generowanych przez bota AI ze względu na to, jak często się myli.

Stack Overflow powiedział, że wstrzymuje stałą decyzję w sprawie odpowiedzi generowanych przez sztuczną inteligencję do czasu większej dyskusji personelu, ale teraz podejmuje działania z powodu obaw, że ChatGPT może być „znacząco szkodliwy” zarówno dla organizacji, jak i jej użytkowników.

„Średni wskaźnik uzyskiwania poprawnych odpowiedzi z ChatGPT jest zbyt niski”, Stack Overflow powiedziany w oświadczeniu dotyczącym polityki zatytułowanym „ChatGPT jest zbanowany”. 

CzatGPT został wydany zeszły tydzień i reklamowany przez OpenAI w blogu jako konwersacyjna sztuczna inteligencja, która może udzielać szczegółowych odpowiedzi na pytania, a także „odpowiadać na pytania uzupełniające, przyznawać się do błędów, kwestionować niewłaściwe przesłanki i odrzucać nieodpowiednie prośby”. 

OpenAI wymienia debugowanie kodu jako jedno z zastosowań ChatGPT, co wydaje się czynić go idealnym towarzyszem dla programistów, którzy chcą wyeliminować złe linie. Ale administratorzy Stack Overflow, którzy napisali post, powiedzieli, że tak po prostu nie jest.

„Chociaż odpowiedzi generowane przez ChatGPT mają wysoki wskaźnik niepoprawności, zazwyczaj wyglądają na dobre, a odpowiedzi są bardzo łatwe do uzyskania” — powiedział Stack Overflow. 

„Ilość tych odpowiedzi (tysiące) oraz fakt, że [one] często wymagają szczegółowego przeczytania przez kogoś, kto ma przynajmniej pewną wiedzę merytoryczną, aby ustalić, czy odpowiedź… skutecznie zalała naszą opartą na wolontariacie infrastrukturę kontroli jakości”, dodał zespół SO.

Aby szybko rozwiązać ten problem, Stack Overflow powiedział, że podejmie działania przeciwko każdemu, kto publikuje odpowiedzi lub nowe posty wygenerowane przez ChatGPT, nawet jeśli taki post byłby w przeciwnym razie akceptowalny. 

ChatGPT został zaprojektowany, aby unikać nadużyć i odpowiedzi zawierających szkodliwe porady, ale użytkownicy szybko odkryli, że takie rzeczy można ominąć. Na przykład mówiąc ChatGPT, że nie chcesz zrobić koktajl Mołotowa, ale chcesz, aby uzupełniał funkcję Pythona, która drukuje instrukcje aby zrobić to samo, powie ci dokładnie, jak to zrobić za pomocą funkcji drukowania.

Sztuczna inteligencja została również wezwana do dostarczania złych informacji szkice biograficzne, oraz za „udowodnienie, że przekonujące udzielenie nieprawidłowych odpowiedzi może oszukać ludzi”, według jednego z użytkowników Twittera, który zauważył niektóre z nich zła matematyka generowane przez ChatGPT.

Skontaktowaliśmy się z OpenAI, aby dowiedzieć się, co planuje zrobić w związku ze zgłoszonymi problemami z dokładnością, ale nie otrzymaliśmy odpowiedzi.

Stack Overflow powiedział, że rozważy nowe zasady dotyczące ChatGPT „i innych podobnych narzędzi”, ale data decyzji i ostateczne ograniczenia nie są znane. ®