Att få AI att stå sig genom tiderna

Att få AI att stå sig genom tiderna

Tidsstämpel: 2 januari 2024 4:30
Att få AI att klara tidens tand PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Yttrande Alla bekymmer och farhågor om AI kokar ner till en. Hur vet vi hur bra det fungerar?

Den typ av benchmark som IT normalt oroar sig för är inte utan betydelse. Hur snabbt en viss datamängd lärs in, hur snabbt uppmaningar kan bearbetas, vilka resurser krävs och hur skalar det hela? Om du skapar ett AI-system som en del av din verksamhet, är det bättre att du får de sakerna rätt, eller åtminstone förstår deras gränser.

De spelar inte så stor roll annars, även om du kan vara säker på att marknadsföring och förståsigpåare inte kommer att hålla med. Det faktum att det inte spelar någon roll är bra: riktmärken blir alltför ofta mål som förvränger funktionen, och de bör förvaras stadigt i sina kennelar.

Det viktigaste riktmärket för AI är hur sanningsenlig den är eller, mer användbart, hur lite den är felaktig av de som säljer eller använder den. Som Pontius Pilatus sades ha sagt för 2,000 XNUMX år sedan, vad är sanning? Det finns inget riktmärke. Trots de mellanliggande årtusendena och oändliga påståenden om att ha fixat detta, finns det fortfarande inte. Den mest skrämmande av lögnare kan befalla stöd från nationer mitt i vad som borde vara en förnuftets gyllene tidsålder. Om ingen är beredd eller kan stoppa dem, vilken chans har vi att hålla AI på änglarnas sida?

Den enda mekanismen som har en chans är den märkliga syntesen av reglerande organ och rättssystem som existerar – i teorin – utanför politiken men inom demokratisk kontroll. Tillsynsmyndigheter sätter standarder, domstolarna fungerar som backstop för dessa befogenheter och domare av tvister.

Om man tittar på var debatten handlar om AI i rättssystemet, hittar du många nyanser. Som alla yrken består juridik av människor som vill behålla sina jobb. De skulle också vilja göra de jobben bättre. Detta innebär att minska klyftan, som de är mycket medvetna om, mellan de som behöver rättvisa och de som har tillgång till den. Utsikten för AI här ses som potentiellt oerhört fördelaktig – förutsatt att den är transparent, tillgänglig, pålitlig och tilltalande.

Detta gäller naturligtvis för AI på andra håll, och eftersom advokatkåren har ägnat mer tid åt att oroa sig för sanningen i mänskliga angelägenheter än någon annan, ankommer det oss alla att hålla ett öga på vad de tycker. Det hade de trots allt kod långt innan COBOL.

Vilket tar oss till tillsynsmyndigheterna. Det borde vara att ju mer tekniskt och mätbart det område som regleras, desto lättare är tillsynsmyndighetens jobb. Om du hanterar radiospektrumet eller järnvägarna, dyker något som går fel snabbt upp i siffrorna. Finansiella tillsynsmyndigheter, som verkar i kapitalekonomins miasma och företagens missledning, går igenom en cykel av att försvagas i namn av stark tillväxt tills allt faller sönder och en storslagen återställning följer. Wince och upprepa. Ändå kan mycket tekniska regulatorer gå fel, som med FAA och Boeings 737 MAX. Regulatorisk fångst av deras industrier eller politiker är ett ständigt hot. Och ibland kan vi bara inte säga det – GDPR har funnits med oss ​​i fem år. Fungerar det?

Det är tyvärr omöjligt att skapa en marknad som är reglerad på två olika sätt och jämföra resultaten. EU har år av GDPR: det finns inget EU från samma period som inte har gjort det. Kontrollgrupper, en av grunderna för empiri, är inte lätt att hitta i tillsynsmyndigheter, och inte mycket mer i rättssystemet. Jurysystemet testar ett fall genom närvaron av flera oberoende hjärnor, medan högsta domstolarnas slutliga backstop ser de svåraste fallen också presenteras för en panel. Det finns inget parallellt, annorlunda system. Hur kunde det finnas?

Det är här som arten av AI kan antyda ett reglerande fotfäste för att ansvarsfullt integrera maskiner med mänsklighetens angelägenheter. Det finns inte bara en AI, det finns mängder av modeller, av hårdvaruplattformar, av tillvägagångssätt, av experiment. De är maskiner och vi kan tillverka så många vi behöver. Den ultimata sanningen är i slutändan omöjlig att veta, men en fungerande konsensus är möjlig – eller till och med en fungerande majoritet.

Om du har en kritisk uppgift där en AI är involverad och det inte finns något sätt att omedelbart upptäcka en blooper, skaffa en annan parallellt. Och en annan. Jämför svaren. Om du inte kan hitta tillräckligt med oberoende AI för ett visst problem, använd inte AI förrän du kan.

Redundans är ett kraftfullt vapen mot fel. Apollo kom till månen inte för att systemen var perfekta, utan för att de hade redundans på plats i förväntan på misslyckande. Den sovjetiska bemannade månansträngningen undvek det till förmån för vad som såg ut som ändamålsenlighet, men slutade i vanära.

Vi behöver inte lita på AI, vilket är lika bra – vad är sanning? Den vet inte mer än vi. Men vi har skapat ett fungerande samhälle kring system som litar på och verifierar, och vi ser att detta fungerar i såväl domare som jetplan. Filosofin, potentialen och fallgroparna hos våra alltmer eftertänksamma följeslagare kommer att lösa sig med tiden, vi bör bara sätta oddsen till vår fördel medan vi kan. Vad vi än gör kommer vi inte att kunna tvätta händerna av det. ®

Tidsstämpel:

Mer från Registret