Servidores de IA en la oficina: Asus ofrece AFS Appliance para evitar la nube

Asus también conocida como Asustek Computer, tiene planes de lanzar un servidor de inteligencia artificial (IA) llamado AFS Appliance, que estará disponible para alquiler en las instalaciones de las empresas.

Esta iniciativa busca abordar las preocupaciones de seguridad y control de datos asociadas a los sistemas de IA basados en la nube. El servicio contará con chips Nvidia y ejecutará un modelo de lenguaje de IA llamado “Formosa”, que Asus afirma ser equivalente al GPT-3.5 de OpenAI.

El objetivo de Asus es ofrecer el servicio a un precio de alrededor de USD$6,000 al mes, según lo mencionado por Peter Wu, presidente de Asus Cloud y TWS, en una entrevista con Bloomberg.

El servidor de mayor potencia, basado en la plataforma Nvidia DGX AI, tendrá un costo aproximado de USD$10,000 al mes. Estos servidores funcionarán con las GPU A100 de Nvidia y serán propiedad y operados por Asus.

Inicialmente, la compañía planea brindar el servicio a 30 a 50 clientes empresariales en Taiwán y luego expandirse internacionalmente a partir de 2023.

Wu destacó la asociación con Nvidia para acelerar la adopción empresarial de esta tecnología, afirmando que antes de la existencia de ChatGPT, las empresas no eran conscientes de la necesidad de tanta potencia informática.

Nvidia se asocia con Asus para la implementación de IA en empresas

El modelo de lenguaje “Formosa Foundation Model”, que se ejecutará en el dispositivo AFS, es un modelo de lenguaje grande que genera texto con semántica china tradicional.

Fue desarrollado por TWS, una subsidiaria de Asustek. Al igual que ChatGPT, este modelo ofrecerá capacidades de generación y codificación de texto impulsadas por IA.

A medida que aumenta el interés en los servicios generativos de IA, también surgen preocupaciones sobre la sensibilidad de los datos. Muchos de los principales servicios generativos de IA se operan actualmente a través de centros de datos en línea, lo que puede exponer información confidencial.

Samsung, por ejemplo, prohibió a sus empleados utilizar ChatGPT de OpenAI después de descubrir que algunos habían cargado código confidencial en la plataforma. Apple también recientemente prohibió a sus empleados el uso de herramientas externas de IA que podrían filtrar datos a competidores.

Para abordar estas preocupaciones de privacidad, Microsoft anunció en mayo sus planes de lanzar una versión aislada y centrada en la privacidad de ChatGPT dirigida a grandes organizaciones, como bancos y hospitales, que tienen mayores preocupaciones sobre fugas de datos y cumplimiento normativo.

Entre tanto, los servidores de Microsoft seguirán ubicados en sus centros de datos. En contraste, el hardware del dispositivo AFS se instalará directamente en las instalaciones del cliente.

A pesar de la creciente demanda de chips de entrenamiento de IA, empresas como Asus buscan asegurar su participación en el mercado al ofrecer “sistemas holísticos de IA” que brinden una solución completa de IA en un paquete de servicios.

Asus afirma que su asociación existente con Nvidia garantizará un suministro suficiente de chips Nvidia a medida que se implemente el servicio AFS Appliance.

Con información de Ars Technica.