Google elimina manualmente las respuestas extrañas de la IA

Google ha confirmado que está “tomando medidas rápidas” para eliminar las extrañas respuestas de su herramienta de IA.

Las redes sociales están llenas de ejemplos del nuevo producto AI Overview de Google que ofrece respuestas inusuales, desde recomendar poner pegamento en la pizza hasta sugerir comer piedras.

Este desordenado despliegue ha llevado a Google a desactivar manualmente las descripciones generales de IA para búsquedas específicas, lo que provoca que muchos de estos memes desaparezcan poco después de ser publicados en las redes sociales.

Pruebas y optimización prematuras

La situación es extraña, dado que Google ha estado probando AI Overviews durante un año.

La función se lanzó en versión beta en mayo de 2023 como Search Generative Experience, y según el CEO Sundar Pichai, la compañía ha atendido más de mil millones de consultas en ese tiempo.

Pero esto, el CEO de Google también señaló que la compañía ha reducido el costo de entregar respuestas de IA en un 80% durante ese mismo período, gracias a avances en hardware, ingeniería y técnicas.

Esta optimización podría haber sido prematura, antes de que la IA estuviera completamente lista.

Críticas y respuesta de Google

Un fundador de inteligencia artificial, que deseaba permanecer en el anonimato, comentó a al medio de tecnología The Verge: “Una empresa que alguna vez fue conocida por estar a la vanguardia y enviar cosas de alta calidad ahora es conocida por una producción de baja calidad que se está convirtiendo en memes”.

Google defiende su producto, afirmando que AI Overview produce “información de alta calidad” en su mayoría.

Meghann Farnsworth, portavoz de Google, dijo que muchos ejemplos vistos en redes sociales fueron manipulados o no pudieron ser reproducidos.

Farnsworth también confirmó que la empresa está tomando medidas rápidas para eliminar descripciones generales de IA en ciertas consultas y utilizar estos ejemplos para mejorar sus sistemas.

Desafíos del desarrollo de la IA

Gary Marcus, experto en IA y profesor emérito de ciencia neuronal en la Universidad de Nueva York, señaló que alcanzar el último 20% de precisión en las respuestas de IA es extremadamente desafiante.

Marcus y Yann LeCun, jefe de IA de Meta, coinciden en que los grandes modelos de lenguaje actuales no serán los que creen inteligencia artificial general (AGI).

La carrera de la IA y el perfeccionamiento de las respuestas extrañas en Google

Google enfrenta una competencia feroz en el campo de la IA, con Bing adoptando dicha tecnología de manera temprana y OpenAI desarrollando su propio motor de búsqueda.

La presión por competir ha llevado a lanzamientos desordenados.

A pesar de las grandes ambiciones de Google para AI Overviews, la reputación de la compañía depende de mejorar lo básico. “Estos modelos son incapaces de hacer un control de cordura en su propio trabajo, y eso es lo que ha venido a morder a esta industria en el trasero”, concluyó Marcus.

Con información de The Verge.