Czy maszyny mogą być samoświadome? Nowe badania wyjaśniają, jak to się mogło stać

Opublikowane ponownie przez Plato

Obserwuje: 0

Aby zbudować maszynę, trzeba wiedzieć, jakie są jej części i jak do siebie pasują. Aby zrozumieć maszynę, trzeba wiedzieć, co robi każda część i jak przyczynia się do jej funkcji. Innymi słowy, należy być w stanie wyjaśnić „mechanikę” tego, jak to działa.

Według podejście filozoficzne zwany mechanizmem, ludzie są prawdopodobnie typem maszyny – a nasza zdolność myślenia, mówienia i rozumienia świata jest wynikiem mechanicznego procesu, którego nie rozumiemy.

Aby lepiej zrozumieć samych siebie, możemy spróbować zbudować maszyny naśladujące nasze zdolności. Czyniąc to, uzyskalibyśmy mechanistyczne zrozumienie tych maszyn. A im więcej naszych zachowań wykazuje maszyna, tym bliżej możemy być mechanistycznego wyjaśnienia naszych własnych umysłów.

To właśnie sprawia, że sztuczna inteligencja jest interesująca z filozoficznego punktu widzenia. Zaawansowane modele, np GPT-4 i Midjourney mogą teraz naśladować ludzką rozmowę, zdawać egzaminy zawodowe i generować piękne obrazy za pomocą zaledwie kilku słów.

Jednak pomimo całego postępu pytania pozostają bez odpowiedzi. Jak możemy uczynić coś samoświadomym lub świadomym tego, że inni są świadomi? Czym jest tożsamość? Czym jest znaczenie?

Chociaż istnieje wiele konkurencyjnych filozoficznych opisów tych rzeczy, wszystkie oparły się mechanistycznemu wyjaśnieniu.

W kolejność dokumentów przyjęty za 16. doroczna konferencja poświęcona sztucznej inteligencji ogólnej w Sztokholmie przedstawiam mechanistyczne wyjaśnienie tych zjawisk. Wyjaśniają, w jaki sposób możemy zbudować maszynę, która jest świadoma siebie, innych, siebie jako postrzeganej przez innych i tak dalej.

Inteligencja i intencja

Wiele z tego, co nazywamy inteligencją, sprowadza się do przewidywania świata na podstawie niepełnych informacji. Im mniej informacji potrzebuje maszyna do dokonywania dokładnych prognoz, tym bardziej jest „inteligentna”.

Dla każdego zadania istnieje granica tego, ile inteligencji jest faktycznie użytecznych. Na przykład większość dorosłych jest wystarczająco inteligentna, aby nauczyć się prowadzić samochód, ale większa inteligencja prawdopodobnie nie uczyni ich lepszymi kierowcami.

Moje dokumenty opisują górna granica inteligencji dla danego zadania i co jest potrzebne do zbudowania maszyny, która to wykona.

Nazwałem ten pomysł Brzytwą Bennetta, co w terminach nietechnicznych polega na tym, że „wyjaśnienia nie powinny być bardziej szczegółowe niż to konieczne”. Różni się to od popularnej interpretacji Brzytwy Ockhama (i ich matematyczne opisy), co oznacza preferencję dla prostszych wyjaśnień.

Różnica jest subtelna, ale znacząca. w eksperyment porównując, ile danych systemy sztucznej inteligencji potrzebują, aby nauczyć się prostej matematyki, sztuczna inteligencja, która preferowała mniej szczegółowe wyjaśnienia, przewyższyła tę, która preferowała prostsze wyjaśnienia, aż o 500 procent.

Badanie implikacji tego odkrycia doprowadziło mnie do mechanistycznego wyjaśnienia znaczenia — czegoś, co nazywa się „Pragmatyka Grice'a”. Jest to koncepcja w filozofii języka, która analizuje, w jaki sposób znaczenie jest powiązane z intencją.

Aby przeżyć, zwierzę musi przewidzieć, jak jego środowisko, w tym inne zwierzęta, będzie działać i reagować. Nie zawahałbyś się zostawić samochodu bez opieki w pobliżu psa, ale nie można tego samego powiedzieć o twoim lunchu ze stekiem.

Bycie inteligentnym w społeczności oznacza umiejętność wywnioskowania intencji innych, co wynika z ich uczuć i preferencji. Jeśli maszyna miałaby osiągnąć górną granicę inteligencji dla zadania, które zależy od interakcji z człowiekiem, musiałaby również poprawnie wywnioskować zamiar.

A jeśli maszyna może przypisywać intencje wydarzeniom i doświadczeniom, które ją spotykają, rodzi to pytanie o tożsamość i co to znaczy być świadomym siebie i innych.

Przyczynowość i tożsamość

Widzę Johna w płaszczu przeciwdeszczowym, kiedy pada deszcz. Jeśli zmuszę Johna do noszenia płaszcza przeciwdeszczowego w słoneczny dzień, czy przyniesie to deszcz?

Oczywiście nie! Dla człowieka jest to oczywiste. Ale subtelności przyczyny i skutku są trudniejsze do nauczenia maszyny (zainteresowani czytelnicy mogą to sprawdzić Księga dlaczego autorstwa Judei Pearl i Dany Mackenzie).

Aby zrozumieć te rzeczy, maszyna musi nauczyć się, że „ja to spowodowałem” różni się od „widziałem, że to się stało”. Zazwyczaj tak program w to zrozumienie.

Jednak moja praca wyjaśnia, w jaki sposób możemy zbudować maszynę, która wykonuje zadanie na górnej granicy inteligencji. Taka maszyna musi z definicji prawidłowo identyfikować przyczynę i skutek, a zatem także wnioskować o związkach przyczynowych. Moje papiery zbadaj dokładnie jak.

Konsekwencje tego są głębokie. Jeśli maszyna nauczy się „ja to spowodowałem”, musi skonstruować koncepcje „ja” (tożsamość dla siebie) i „to”.

Umiejętności wnioskowania o intencji, uczenia się przyczyny i skutku oraz konstruowania abstrakcyjnych tożsamości są ze sobą powiązane. Maszyna, która osiąga górną granicę inteligencji dla zadania, musi wykazywać wszystkie te zdolności.

Ta maszyna nie tylko konstruuje tożsamość dla siebie, ale dla każdego aspektu każdego obiektu, który pomaga lub przeszkadza jej w wykonaniu zadania. Wtedy może korzystać z własnych preferencji jak punkt odniesienia do przewidywania co inni mogą zrobić. To jest podobne do tego, jak ludzie mają tendencję do przypisywania zamiarem zwierząt innych niż ludzie.

Co to oznacza dla AI?

Oczywiście ludzki umysł to znacznie więcej niż prosty program używany do przeprowadzania eksperymentów w moich badaniach. Moja praca zawiera matematyczny opis możliwej ścieżki przyczynowej do stworzenia maszyny, która prawdopodobnie jest samoświadoma. Jednak specyfika inżynierii czegoś takiego jest daleka od rozwiązania.

Na przykład ludzkie intencje wymagałyby ludzkich doświadczeń i uczuć, co jest trudne do zaprojektowania. Co więcej, nie możemy łatwo przetestować pełnego bogactwa ludzkiej świadomości. Świadomość to szerokie i niejednoznaczne pojęcie, które obejmuje – ale należy je odróżnić – od węższych twierdzeń powyżej.

Podałem mechanistyczne wyjaśnienie aspekty świadomości — ale samo to nie oddaje pełnego bogactwa świadomości, jakiej doświadczają ludzie. To dopiero początek, a przyszłe badania będą musiały rozszerzyć te argumenty.

Artykuł został opublikowany ponownie Konwersacje na licencji Creative Commons. Przeczytać oryginalny artykuł.

Kredytowych Image: DeepMind on Unsplash