Purple Llama: Desarrollo seguro y responsable en IA

La revolución en inteligencia artificial (IA) ha experimentado un crecimiento exponencial, especialmente en modelos abiertos.

Con más de 100 millones de descargas de modelos Llama, surge la necesidad de abordar la seguridad y la confianza en el desarrollo de IA generativa.

La compañía Meta presenta Purple Llama, un proyecto integral que ofrece herramientas y evaluaciones para ayudar a los desarrolladores la construcción de manera responsable con modelos de IA abiertos.

¿Por qué Purple Llama?

Inspirados en la ciberseguridad, Meta adoptó un enfoque colaborativo, el “Purple Llama project”, para evaluar y mitigar riesgos en la IA generativa.

Este proyecto incluirá herramientas y evaluaciones para ciberseguridad y salvaguardas de entrada/salida, promoviendo un desarrollo seguro y transparente.

Ciberseguridad

Purple Llama proporciona el primer conjunto de evaluaciones de seguridad cibernética para modelos de lenguaje grandes (LLM).

Estas métricas, desarrolladas en colaboración con expertos en seguridad, buscan cuantificar el riesgo de ciberseguridad, evaluar sugerencias de código no seguro y dificultar la generación de código malicioso.

Dichas herramientas son una respuesta a los compromisos desde el gobierno de EE.UU para abordar los riesgos asociados con la IA generativa:

• Métricas para cuantificar el riesgo de ciberseguridad de LLM.
• Herramientas para evaluar la frecuencia de sugerencias de código no seguro.
• Herramientas para evaluar los LLM para dificultar la generación de código malicioso o ayudar a llevar a cabo ataques cibernéticos.

Medidas de seguridad de entrada/salida

Llama Guard, un modelo disponible abiertamente, se lanza para verificar y filtrar las entradas y salidas del LLM, contribuyendo a evitar resultados potencialmente riesgosos.

El modelo se ha entrenado con conjuntos de datos públicos y pretende ser personalizable para adaptarse a diferentes casos de uso, fomentando las mejores prácticas y la mejora del ecosistema abierto.

Un ecosistema abierto

Meta abre el camino a un enfoque abierto en IA, promoviendo la colaboración y la ciencia pública.

Purple Llama cuenta con la participación de más de 100 socios, incluyendo AI Alliance, AWS, Google Cloud, IBM, Microsoft, y otros, que comparten la visión de un ecosistema amplio y seguro en la IA generativa.

Purple Llama representa un paso enorme hacia un desarrollo responsable en IA generativa.

Con un enfoque proactivo en ciberseguridad y medidas de entrada/salida, este proyecto fomenta la confianza, la transparencia y la colaboración en el mundo de la inteligencia artificial.

Con información de Meta.