Las respuestas generadas por IA están temporalmente prohibidas en Stack Overflow

Las respuestas de la IA están prohibidas dentro de sitio de preguntas y respuestas para programadores profesionales debido a las soluciones erróneas que genera.

Stack Overflow, el sitio web de preguntas y respuestas para codificadores y programadores, ha prohibido temporalmente a los usuarios compartir respuestas generadas por el chatbot de IA ChatGPT.

La gente ha estado usando el chatbot ChatGPT de OpenAI para inundar el sitio con respuestas de IA, pero los mods de Stack Overflow dicen que estos “tienen una alta tasa de ser incorrectos”.

Los mods del sitio dijeron que la prohibición era temporal y que se tomaría una decisión final en algún momento en el futuro después de consultar con su comunidad.

Pero, como explicaron los mods, ChatGPT simplemente hace que sea demasiado fácil para los usuarios generar e inundar el sitio con respuestas que parecen correctas a primera vista, pero que a menudo son incorrectas en un examen minucioso.

¿Cómo trabaja el chatbot de OpenAI?

El ChatGPT es un bot de OpenAI, basando su generador de texto con el sistema de inteligencia artificial GPT-3.5.

Una demostración de esta IA fue lanzada la semana pasada y desde entonces ha sido acogida por los usuarios de toda la web.

La interfaz del bot alienta a las personas a hacer preguntas y a cambio, ofrece resultados impresionantes y fluidos en una variedad de consultas; desde generar poemas, canciones y guiones de televisión, hasta responder preguntas de trivia y escribir y depurar líneas de código.

Pero mientras que muchos usuarios han quedado impresionados por las capacidades de ChatGPT, otros han notado su tendencia persistente a generar respuestas plausibles pero falsas.

Pídale al bot que escriba una biografía de una figura pública, por ejemplo, y bien puede insertar datos biográficos incorrectos con total confianza. Pídale que explique cómo programar software para una función específica y de manera similar puede producir código creíble pero en última instancia incorrecto.

Muchos usuarios han relatado sus propias experiencias usando el bot, como un usuario en Hacker News diciendo que encontraron que sus respuestas a las consultas sobre problemas de codificación eran más a menudo incorrectas que correctas.

“La parte aterradora fue cuán confiadamente incorrecto era”, comentó. “El texto se veía muy bien, pero había grandes errores allí”.

Otros pasaron la cuestión de la moderación de la IA al propio ChatGPT, pidiéndole al bot que generara respuestas a favor y en contra de sus preguntas y respuestas prohibidas.

En una respuesta, el bot llegó exactamente a la misma conclusión que los propios mods de Stack Overflow: “En general, permitir o no respuestas generadas por IA en Stack Overflow es una decisión compleja que la comunidad debería considerar cuidadosamente”.

Con información de The Verge.