Prácticas recomendadas para implementar modelos de lenguaje

Recomendación conjunta para la implementación del modelo de lenguaje

Recomendamos varios principios clave para ayudar a los proveedores de modelos de lenguaje extenso (LLM) a mitigar los riesgos de esta tecnología para lograr su promesa completa de aumentar las capacidades humanas.

Si bien estos principios se desarrollaron específicamente en función de nuestra experiencia al proporcionar LLM a través de una API, esperamos que sean útiles independientemente de la estrategia de lanzamiento (como el código abierto o el uso dentro de una empresa). Esperamos que estas recomendaciones cambien significativamente con el tiempo porque los usos comerciales de los LLM y las consideraciones de seguridad que los acompañan son nuevos y evolucionan. Estamos aprendiendo y abordando activamente las limitaciones de LLM y las vías de uso indebido, y actualizaremos estos principios y prácticas en colaboración con la comunidad en general a lo largo del tiempo.

Estamos compartiendo estos principios con la esperanza de que otros proveedores de LLM puedan aprender de ellos y adoptarlos, y para avanzar en la discusión pública sobre el desarrollo y la implementación de LLM.

prohibir el mal uso

Publicar pautas de uso y términos de uso de LLM de una manera que prohíba el daño material a las personas, las comunidades y la sociedad, como a través de spam, fraude o astroturfing. Las pautas de uso también deben especificar dominios donde el uso de LLM requiere un escrutinio adicional y prohibir los casos de uso de alto riesgo que no son apropiados, como clasificar a las personas según las características protegidas.

Construya sistemas e infraestructura para hacer cumplir las pautas de uso. Esto puede incluir límites de velocidad, filtrado de contenido, aprobación de aplicaciones antes del acceso a producción, monitoreo de actividad anómala y otras mitigaciones.

Mitigar el daño no intencional

Mitigar proactivamente el comportamiento dañino del modelo. Las mejores prácticas incluyen una evaluación integral del modelo para evaluar adecuadamente las limitaciones, minimizando las posibles fuentes de sesgo en los corpus de capacitación y técnicas para minimizar el comportamiento inseguro, como aprender de la retroalimentación humana.

Documentar debilidades y vulnerabilidades conocidas, como el sesgo o la capacidad de producir código inseguro, ya que en algunos casos ningún grado de acción preventiva puede eliminar por completo el potencial de daño no intencionado. La documentación también debe incluir las mejores prácticas de seguridad específicas del modelo y del caso de uso.

Colaborar cuidadosamente con las partes interesadas

Construir equipos con diversos antecedentes. y solicitar una opinión amplia. Se necesitan diversas perspectivas para caracterizar y abordar cómo operarán los modelos lingüísticos en la diversidad del mundo real, donde, si no se controlan, pueden reforzar los sesgos o no funcionar para algunos grupos.

Divulgar públicamente las lecciones aprendidas con respecto a la seguridad y el mal uso de LLM para permitir una adopción generalizada y ayudar con la iteración entre industrias sobre las mejores prácticas.

Tratar a toda la mano de obra en la cadena de suministro del modelo lingüístico con respeto. Por ejemplo, los proveedores deben tener altos estándares para las condiciones de trabajo de quienes revisan los resultados del modelo internamente y hacer que los proveedores cumplan con estándares bien especificados (p. ej., garantizar que los etiquetadores puedan optar por no participar en una tarea determinada).

Como proveedores de LLM, la publicación de estos principios representa un primer paso para guiar de manera colaborativa el desarrollo y la implementación de modelos de lenguaje grande más seguros. Estamos entusiasmados de continuar trabajando entre nosotros y con otras partes para identificar otras oportunidades para reducir los daños no intencionales y prevenir el uso malicioso de los modelos de lenguaje.

Descargar como PDF