Skapa AI pro-register för att upprätthålla etiken, säger BCS

Skapa AI pro-register för att upprätthålla etiken, säger BCS

Tidsstämpel: 15 februari 2024 7:29
Skapa AI pro-register för att upprätthålla etiken, säger BCS PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

Att skapa ett register över licensierade AI-proffs för att upprätthålla etiska standarder och säkra whistleblowing-kanaler för att påtala dålig förvaltning är två principer som kan förhindra en skandal av postkontorstil.

Så säger branschorganet BCS – tidigare British Computer Society – som anser att licenser baserade på ett oberoende etiskt ramverk skulle främja transparens bland mjukvaruingenjörer och deras chefer.

"Vi har ett register över läkare som kan strykas", säger Rashik Parmar MBE, VD på BCS. "AI-proffs har redan en stor roll i våra livschanser, så varför skulle de inte vara licensierade och registrerade också?"

Chefer och andra chefer i ledarroller, som ofta inte är tekniker, fattar viktiga beslut om teknikutveckling, och dessa människor måste "hållas ansvariga för att använda AI etiskt", tillade han.

"Om detta inte händer måste teknologerna ha förtroende för de whistleblowing-kanaler som finns inom organisationer för att kalla ut dem; till exempel om de ombeds att använda AI på ett sätt som diskriminerar en minoritetsgrupp.”

Det här skulle kunna vara partiskhet i anställningsbeslut, eller relaterad till live övervakningskameror för ansiktsigenkänning som ofta sätts in av polisstyrkor runt om i världen.

Vikten av AI-etik förstärktes av Postskandal, säger BCS-chefen, "där datorgenererade bevis användes av icke-IT-specialister för att åtala underpostmästare med tragiska resultat."

För alla som inte var medvetna om det upprörande fel som begåtts av posten, köpte det det buggfyllda redovisningssystemet Horizon 1999 av ICL, ett företag som senare köptes av Fujitsu. Hundratals lokala postkontorchefer dömdes därefter felaktigt för bedrägeri när Horizon var skyldig.

Den ledsna sagan, som räknas som ett av Storbritanniens största rättegångsmissar, förstörde livet för de lokala filialcheferna, med många gick i konkurs och några drevs till självmord.

I en tidning "Att leva med AI och framväxande teknologier: Att möta etiska utmaningar med professionell standard”, rekommenderar BCS:s etikspecialistgrupp:

  • Varje teknolog som arbetar i en höginsats AI-roll bör vara en registrerad professionell som uppfyller oberoende standarder för etisk praxis, ansvarighet och kompetens.
  • Regeringar, industrier och yrkesorgan bör stödja och utveckla dessa standarder tillsammans för att bygga upp allmänhetens förtroende och skapa förväntningar på god praxis.
  • Brittiska organisationer bör åläggas att publicera sina policyer om etisk användning av AI i alla relevanta system – och dessa förväntningar bör sträcka sig till ledare som inte är tekniska specialister, inklusive VD:ar och styrelser.
  • Den brittiska regeringen bör sträva efter att stödja organisationer att sätta världsledande etiska standarder.

Georgina Halford-Hall, VD på WhistleblowersUK och ordförande för Strategi & Policy för All Party Parliamentary Group (APPG) för Whistleblowing, sa i ett uttalande: "AI och de snabba framstegen inom tekniksektorn har lämnat whistleblowers öppna för missbruk, mobbning, trakasserier och kränkning. Vi stöder BCS fullt ut eftersom det ser ut att bygga en transparent kultur kring etisk praxis som ger tekniska proffs självförtroende att utmana när dessa standarder inte uppfylls.” ®

Tidsstämpel:

Mer från Registret