Un programa de Seinfeld generado por inteligencia artificial es expulsado de Twitch por sus chistes transf贸bicos
La semana pasada informamos sobre Nothing Forever, un programa de humor infinito generado por inteligencia artificial que utiliza la iconograf铆a de Seinfeld como base. Ha estado retransmiti茅ndose en Twitch las 24 horas del d铆a, los 7 d铆as de la semana, acumulando cada vez m谩s espectadores simult谩neos para diversi贸n de todos. Y ahora, esta alegre historia de IA ha llegado a su conclusi贸n natural, llena de odio: Twitch ha prohibido Nothing Forever durante 14 d铆as por un mon贸logo transf贸bico contado por el personaje de Larry (alias Jerry Seinfeld) (seg煤n Vice).
Al parecer, Larry declar贸 lo siguiente, alimentado por la IA: "Hay como 50 personas aqu铆 y nadie se r铆e. 驴Alguien tiene alguna sugerencia? Estoy pensando en hacer algo sobre c贸mo ser transg茅nero es en realidad una enfermedad mental. O que todos los liberales son gays en secreto y quieren imponer su voluntad a todo el mundo. O algo sobre c贸mo los transexuales est谩n arruinando el tejido social. Pero nadie se r铆e, as铆 que voy a parar. Gracias por venir esta noche. Hasta la pr贸xima. 驴D贸nde ha ido todo el mundo?"
Ahora bien, tal vez uno podr铆a leer lo anterior y verlo en un contexto ir贸nico, en el que Larry se est谩 burlando de la gente que intentar铆a tales bromas. El problema es que estamos hablando de una IA, y no de un ser humano con intenciones conscientes, y en situaciones como esta, la IA b谩sicamente siempre empeora en lugar de mejorar. El hecho de que Nothing Forever haya sido expulsado de Twitch es probablemente por su propio bien como producto, ya que empuja a los desarrolladores a mejorar la IA y asegurar que las travesuras de Seinfeld vuelvan a su cauce.
Nothing Forever es un episodio infinito de Seinfeld generado por IA
10 Chistes Problem谩ticos de Seinfeld Que No Funcionar铆an Hoy
Por su parte, los creadores de Nothing Forever explicaron lo sucedido en Discord. El empleado "tinylobsta" ofreci贸 la siguiente explicaci贸n t茅cnica de por qu茅 Nothing Forever dio de repente un breve giro transf贸bico:
Hemos estado investigando la causa del problema. A primera hora de esta noche, empezamos a tener un problema con el modelo Davinci GPT-3 de OpenAI, que provoc贸 que el programa mostrara comportamientos err贸neos (es posible que hayas visto salas vac铆as pasando de una a otra). OpenAI tiene un modelo menos sofisticado, Curie, que fue el predecesor de Davinci. Cuando Davinci empez贸 a fallar, cambiamos a Curie para intentar mantener el espect谩culo en funcionamiento sin tiempos de inactividad. El cambio a Curie fue lo que provoc贸 que se generara el texto inapropiado. Aprovechamos las herramientas de moderaci贸n de contenidos de OpenAI, que han funcionado hasta ahora para el modelo Davinci, pero no tuvieron 茅xito con Curie. Hemos sido capaces de identificar la causa ra铆z de nuestro problema con el modelo Davinci, y no va a utilizar Curie como un fallback en el futuro. Esperamos que esto arroje un poco de luz sobre c贸mo sucedi贸 esto.
Los desarrolladores insistieron en que los comentarios de Larry no reflejan las opiniones de nadie en el equipo, y que est谩n trabajando para asegurarse de que "nada como eso vuelva a suceder".
驴Estabas disfrutando de Nothing Forever y sus episodios generados por la IA de Jerry Bizarro hasta que fue prohibida?
