Ontwerpregels van de EU AI-wet kunnen een huiveringwekkend effect hebben op open-sourcesoftware

In het kort Nieuwe regels die door de Europese Unie zijn opgesteld om AI te reguleren, kunnen ontwikkelaars ervan weerhouden om open source-modellen vrij te geven, aldus de Amerikaanse denktank Brookings.

De voorgestelde EU AI Act, die nog moet worden ondertekend in de wet, stelt dat open source-ontwikkelaars ervoor moeten zorgen dat hun AI-software nauwkeurig en veilig is en transparant moet zijn over risico's en gegevensgebruik in duidelijke technische documentatie. 

Brookings stelt dat als een privébedrijf het openbare model zou implementeren of het in een product zou gebruiken, en het op de een of andere manier in de problemen zou komen vanwege een aantal onvoorziene of oncontroleerbare effecten van het model, het bedrijf dan waarschijnlijk zou proberen de open source-ontwikkelaars de schuld te geven en hen aan te klagen . 

Het zou de open source-gemeenschap kunnen dwingen om twee keer na te denken over het vrijgeven van hun code, en zou helaas betekenen dat de ontwikkeling van AI zal worden aangedreven door particuliere bedrijven. Gepatenteerde code is moeilijk te analyseren en op voort te bouwen, wat betekent dat innovatie wordt belemmerd.

Oren Etzioni, de vertrekkende CEO van het Allen Institute of AI, vindt dat open source-ontwikkelaars niet aan dezelfde strenge regels mogen worden onderworpen als software-engineers bij particuliere bedrijven.

“Open source-ontwikkelaars mogen niet dezelfde last krijgen als degenen die commerciële software ontwikkelen. Het zou altijd zo moeten zijn dat vrije software 'as is' kan worden geleverd — denk aan het geval van een enkele student die een AI-capaciteit ontwikkelt; ze kunnen het zich niet veroorloven om te voldoen aan de EU-regelgeving en worden mogelijk gedwongen hun software niet te verspreiden, wat een huiveringwekkend effect heeft op de academische vooruitgang en op de reproduceerbaarheid van wetenschappelijke resultaten”, zegt hij. vertelde TechCrunch.

Nieuwe MLPerf-resultaten voor gevolgtrekking zijn uit

De resultaten voor de jaarlijkse MLPerf-inferentietest, die de prestaties van AI-chips van verschillende leveranciers voor tal van taken in verschillende configuraties benchmarkt, zijn gepubliceerde deze week.

Dit jaar werden bijna maar liefst 5,300 prestatieresultaten en 2,400 energiemetingen gerapporteerd voor gevolgtrekking in het datacenter en in edge-apparaten. De tests kijken naar hoe snel een hardwaresysteem een ​​bepaald machine learning-model kan uitvoeren. De snelheid van het kraken van gegevens wordt gerapporteerd in spreadsheets.

Het is geen verrassing dat Nvidia dit jaar weer bovenaan de ranglijst staat. "In hun debuut op de MLPerf-industriestandaard AI-benchmarks, vestigden Nvidia H100 Tensor Core GPU's wereldrecords in inferentie op alle workloads, met tot 4.5x meer prestaties dan GPU's van de vorige generatie", gutste Nvidia in een blogpost. "De resultaten tonen aan dat Hopper de beste keuze is voor gebruikers die de beste prestaties eisen op geavanceerde AI-modellen."

Hoewel steeds meer leveranciers deelnemen aan de MLPerf-uitdaging, kan het moeilijk zijn om een ​​goed beeld te krijgen van de concurrentie. Zo zijn er dit jaar geen resultaten gerapporteerd voor de TPU-chips van Google in het datacenterspoor. Google leek echter aas MLPerf's trainingswedstrijd eerder dit jaar. 

AI-artiesten ontdekken gruwelijk gezicht achter beeld

Een virale Twitter-thread gepost door een digitale kunstenaar onthult hoe vreemd tekst-naar-beeld-modellen onder de oppervlakte kunnen zijn.

Veel internetgebruikers hebben vreugde en wanhoop gevonden in het experimenteren met deze systemen om afbeeldingen te genereren door tekstprompts in te typen. Er zijn allerlei hacks om de output van het model aan te passen; een van hen, bekend als een "negatieve prompt, stelt gebruikers in staat om de tegenovergestelde afbeelding te vinden als degene die in de prompt wordt beschreven. 

Toen een kunstenaar, die op Twitter de naam Supercomposite draagt, de negatieve prompt vond voor wat een onschuldig ogende foto van een neplogo beschreef, vonden ze iets echt gruwelijks: het gezicht van wat eruitziet als een spookachtige vrouw. Supercomposite heeft deze AI-gegenereerde vrouw "Loab" genoemd en wanneer ze afbeeldingen van haar kruisten met andere, zagen ze er altijd uit als een scène uit een horrorfilm.

🧵: I discovered this woman, who I call Loab, in April. The AI reproduced her more easily than most celebrities. Her presence is persistent, and she haunts every image she touches. CW: Take a seat. This is a true horror story, and veers sharply macabre. pic.twitter.com/gmUlf6mZtk

— Supercomposite (@supercomposite) September 6, 2022

Supercomposiet verteld El Reg willekeurige afbeeldingen van door AI gegenereerde mensen kunnen vaak worden weergegeven in negatieve prompts. Het rare gedrag is nog een ander voorbeeld van enkele van de vreemde eigenschappen die deze modellen kunnen hebben die mensen pas beginnen te onderzoeken. 

Geen bewuste chatbots hier bij Google, zegt CEO Sundar Pichai

Sundar Pichai sprak de beweringen van voormalig ingenieur Blake Lemoine tegen dat Google een bewuste chatbot had gebouwd tijdens zijn toespraak op de Code-conferentie deze week.

Lemoine haalde de krantenkoppen in juli toen hij... aangekondigd hij dacht dat de LaMDA-chatbot van Google bij bewustzijn was en misschien een ziel had. Hij was later ontslagen omdat hij naar verluidt het privacybeleid van het bedrijf had geschonden nadat hij een advocaat had ingehuurd om met LaMDA te chatten en zijn wettelijke rechten te beoordelen, waarbij hij beweerde dat de machine hem had opgedragen dit te doen.

De meeste mensen, waaronder de CEO van Google, zijn het niet eens met Lemoine. “Ik denk dat er nog een lange weg te gaan is. Ik heb het gevoel dat ik vaak in filosofische of metafysische gesprekken kom over wat bewustzijn en wat bewustzijn is,' zei Pichai, volgens naar Fortuin. "We zijn er nog lang niet en we zullen er misschien nooit komen", voegde hij eraan toe.

Om zijn punt verder te benadrukken, gaf hij toe dat de AI-stemassistent van Google soms niet begrijpt en niet adequaat reageert op verzoeken. "Het goede nieuws is dat iedereen die met Google Assistant praat, hoewel ik denk dat het de beste assistent is voor conversatie-AI, in bepaalde gevallen nog steeds ziet hoe kapot het is", zei hij. ®