A Microsoft azt ígéri, hogy szigorítja az AI-hoz való hozzáférést, amelyet most túl kockázatosnak tart egyes fejlesztők számára

A Microsoft ígéretet tett arra, hogy korlátozza az érzelmek, a nem és az életkor képek alapján történő előrejelzésére szolgáló mesterséges intelligencia-eszközökhöz való hozzáférést, és korlátozza az arcfelismerő és generatív hangmodellek használatát az Azure-ban.

A Windows-óriás kedden tett ígéretet, miközben megosztotta úgynevezett Responsible AI szabványát, a dokumentum [PDF], amelyben az amerikai vállalat megígérte, hogy minimálisra csökkenti a gépi tanulási szoftvere által okozott károkat. Ez a fogadalom garanciákat tartalmazott arra vonatkozóan, hogy a biznisz felméri technológiáinak hatását, dokumentálja a modellek adatait és képességeit, és szigorúbb használati irányelveket fog betartani.

Erre azért van szükség, mert – és nézzük csak a jegyzeteket – láthatóan még nincs elég törvény, amely szabályozza a gépi tanulási technológia használatát. Így ennek a jogszabálynak a hiányában a Microsoftnak csak rá kell kényszerítenie magát, hogy a helyes dolgot tegye.

Natasha Crampton, a Microsoft mesterséges intelligenciaért felelős vezetője: „Növekszik az igény az ilyen típusú gyakorlati útmutatásra mondott nyilatkozatban. „A mesterséges intelligencia egyre inkább az életünk részévé válik, a törvényeink mégis elmaradnak. Nem utolérték a mesterséges intelligencia egyedi kockázatait vagy a társadalom igényeit. Miközben látjuk annak jeleit, hogy a kormány a mesterséges intelligenciával kapcsolatos intézkedései bővülnek, elismerjük a cselekvésben vállalt felelősségünket is. Úgy gondoljuk, hogy azon kell dolgoznunk, hogy az AI-rendszerek tervezésüknél fogva felelősségteljesek legyenek.”

Úgy gondoljuk, hogy azon kell dolgoznunk, hogy az AI-rendszerek tervezésüknél fogva felelősségteljesek legyenek

Ezért, hogy elterelje a gépi tanulással foglalkozó fejlesztőket attól, hogy technológiáival viszályt és nyomort okozzanak, a Microsoft megszünteti az emberek nemének, korának és érzelmeinek osztályozására, valamint mosolyuk, arcszőrzetük és hajuk elemzésére kiképzett eszközökhöz való hozzáférést. és smink az Azure-beli Face API-n keresztül. Az új ügyfelek nem használhatják ezt az API-t a Microsoft felhőjében, a meglévő ügyfeleknek pedig 30. június 2023-ig kell áttérniük más szolgáltatásokra, mielőtt a szoftver hivatalosan megszűnik.

Bár ezeket a képességeket nem az API platformon keresztül kínálják, a Microsoft birodalmának más részein továbbra is használni fogják őket. A funkciók például beépülnek a Seeing AI alkalmazásba, amely azonosítja és elmeséli az emberek és tárgyak leírását a látássérültek számára.

A szakértők régóta vitatkoznak azon gépi tanulási modellek pontosságáról és értékéről, amelyeket az emberek érzéseinek és nemének előrejelzésére használnak, a magánélet védelmével kapcsolatos aggályokra is hivatkozva. Félő, hogy a mesterséges intelligencia által hajtott szoftverprogramok a helytelen vagy tisztességtelen besorolások révén automatikusan megnehezítik egyes emberek életét, ezért e technológia használatát szabályozni vagy korlátozni kell.

A kockázatosnak tekintett egyéb Microsoft-eszközökhöz, például a valósághű hangzású hanggeneráláshoz (szavakat ad valakinek a szájába) és az arcfelismeréshez (amely hasznos a megfigyeléshez) korlátozott lesz a hozzáférés. Az új ügyfeleknek jelentkezniük kell az eszközök használatához; A Microsoft felméri, hogy a fejleszteni kívánt alkalmazások megfelelőek-e vagy sem. A meglévő ügyfeleknek engedélyt kell szerezniük arra is, hogy 30. június 2023-tól továbbra is használják ezeket az eszközöket termékeikhez. 

Valaki hangjának utánzása generatív mesterségesintelligencia-modellek segítségével ma már elérhető nem megengedett a beszélő beleegyezése nélkül. A Microsoft Custom Neural Voice szoftverével készült termékeknek és szolgáltatásoknak fel kell tüntetniük, hogy a hangok hamisak. A vállalat arcfelismerő eszközeinek használati irányelvei is szigorúbbak, ha azokat nyilvános helyeken alkalmazzák, és nem használhatók személyek megfigyelési célú nyomon követésére.

2020-ban a Microsoft ígéretet tett abbahagyni az arcfelismerő szoftverek értékesítését az Egyesült Államok állami és helyi rendőrsége számára, amíg a technológiát nem szabályozzák a szövetségi törvények. Két évvel később, és a cég továbbra is tartja magát az ígéretéhez. A szövetségi kormány azonban továbbra is használhatja ezeket az eszközöket, de be kell tartania a frissített használati irányelveket, mondta el lapunknak a Microsoft szóvivője.

„Ez egy kritikus normaalkotási időszak az AI számára” – mondta Crampton hozzáadott a New York Timesnak. „Reméljük, hogy a szabványunk segítségével megpróbálhatunk hozzájárulni ahhoz a világos, szükséges vitához, amelyet a technológiai vállalatoknak betartandó szabványokról kell folytatni.” ®