El proyecto de reglamento de la Ley de IA de la UE podría tener un efecto paralizador en el software de código abierto

En breve Las nuevas reglas redactadas por la Unión Europea destinadas a regular la IA podrían evitar que los desarrolladores publiquen modelos de código abierto, según el grupo de expertos estadounidense Brookings.

El propuesto La Ley de IA de la UE, que aún no se ha convertido en ley, establece que los desarrolladores de código abierto deben garantizar que su software de IA sea preciso, seguro y transparente sobre el riesgo y el uso de datos en una documentación técnica clara. 

Brookings argumenta que si una empresa privada implementara el modelo público o lo usara en un producto, y de alguna manera se mete en problemas debido a algunos efectos imprevistos o incontrolables del modelo, la empresa probablemente intentaría culpar a los desarrolladores de código abierto y demandarlos . 

Podría obligar a la comunidad de código abierto a pensar dos veces antes de publicar su código y, desafortunadamente, significaría que el desarrollo de la IA será impulsado por empresas privadas. El código propietario es difícil de analizar y desarrollar, lo que significa que la innovación se verá obstaculizada.

Oren Etzioni, el director ejecutivo saliente del Instituto Allen de IA, considera que los desarrolladores de código abierto no deberían estar sujetos a las mismas reglas estrictas que los ingenieros de software en empresas privadas.

“Los desarrolladores de código abierto no deberían estar sujetos a la misma carga que los que desarrollan software comercial. Siempre debería darse el caso de que el software gratuito se pueda proporcionar 'tal cual': considere el caso de un solo estudiante que desarrolla una capacidad de IA; no pueden permitirse el lujo de cumplir con las regulaciones de la UE y pueden verse obligados a no distribuir su software, lo que tiene un efecto paralizante en el progreso académico y en la reproducibilidad de los resultados científicos”, dijo. les dijo a TechCrunch.

Ya están disponibles los nuevos resultados de MLPerf para la inferencia

Los resultados de la prueba de inferencia anual MLPerf, que evalúa el rendimiento de los chips de IA de diferentes proveedores en numerosas tareas en varias configuraciones, han sido publicado esta semana.

Este año se reportaron casi la friolera de 5,300 resultados de rendimiento y 2,400 medidas de potencia para la inferencia en el centro de datos y en dispositivos perimetrales. Las pruebas analizan qué tan rápido un sistema de hardware puede ejecutar un modelo de aprendizaje automático en particular. La tasa de procesamiento de datos se informa en hojas de cálculo.

No sorprende que Nvidia vuelva a encabezar la clasificación este año. “En su debut en los puntos de referencia de IA estándar de la industria MLPerf, las GPU Nvidia H100 Tensor Core establecieron récords mundiales en inferencia en todas las cargas de trabajo, brindando hasta 4.5 veces más rendimiento que las GPU de la generación anterior”, dijo Nvidia en una publicación de blog. “Los resultados demuestran que Hopper es la mejor opción para los usuarios que exigen el máximo rendimiento en modelos avanzados de IA”.

Aunque un número cada vez mayor de proveedores participa en el desafío MLPerf, puede ser difícil tener una buena idea de la competencia. No hay resultados informados para los chips de TPU de Google en la pista del centro de datos este año, por ejemplo. Google, sin embargo, parecía as competencia de entrenamiento de MLPerf a principios de este año. 

Artistas de IA descubren una cara horrible que acecha detrás de la imagen

Un hilo viral de Twitter publicado por un artista digital revela cuán extraños pueden ser los modelos de texto a imagen debajo de la superficie.

Muchos internautas han encontrado alegría y desesperación al experimentar con estos sistemas para generar imágenes escribiendo indicaciones de texto. Hay tipos de trucos para ajustar los resultados de los modelos; uno de ellos, conocido como “mensaje negativo”, permite a los usuarios encontrar la imagen opuesta a la descrita en el mensaje. 

Cuando un artista, que se hace llamar Supercomposite en Twitter, encontró el mensaje negativo de lo que describía una imagen de aspecto inocente de un logotipo falso, encontró algo realmente horrible: el rostro de lo que parece una mujer embrujada. Supercomposite ha llamado a esta mujer generada por IA “Loab” y cuando cruzaban imágenes de ella con otras, siempre terminaban pareciendo una escena de una película de terror.

🧵: I discovered this woman, who I call Loab, in April. The AI reproduced her more easily than most celebrities. Her presence is persistent, and she haunts every image she touches. CW: Take a seat. This is a true horror story, and veers sharply macabre. pic.twitter.com/gmUlf6mZtk

— Supercomposite (@supercomposite) September 6, 2022

Supercompuesto dicho Él reg Las imágenes aleatorias de personas generadas por IA a menudo pueden aparecer en mensajes negativos. El comportamiento extraño es todavía otro ejemplo de algunas de las extrañas propiedades que pueden tener estos modelos que la gente apenas está empezando a sondear. 

No hay chatbots sensibles aquí en Google, dice el CEO Sundar Pichai

Sundar Pichai contradijo las afirmaciones hechas por el ex ingeniero Blake Lemoine de que Google había construido un chatbot sensible durante su charla en la conferencia Code esta semana.

Lemoine fue noticia en julio cuando anunció pensó que el chatbot LaMDA de Google estaba consciente y podría tener alma. el fue mas tarde encendido por presuntamente violar las políticas de privacidad de la compañía después de contratar a un abogado para chatear con LaMDA y evaluar sus derechos legales, alegando que la máquina le había dicho que lo hiciera.

La mayoría de la gente, incluido el director ejecutivo de Google, no está de acuerdo con Lemoine. “Todavía creo que hay un largo camino por recorrer. Siento que me meto en conversaciones filosóficas o metafísicas a menudo sobre lo que es la sensibilidad y la conciencia”, dijo Pichai. conforme a la Fortuna. “Estamos lejos de eso, y es posible que nunca lleguemos allí”, agregó.

Para enfatizar aún más su punto, admitió que el asistente de voz de IA de Google a veces no comprende ni responde adecuadamente a las solicitudes. “La buena noticia es que cualquiera que hable con el Asistente de Google, aunque creo que es el mejor asistente que existe para la IA conversacional, todavía ve lo roto que está en ciertos casos”, dijo. ®