Una empresa con sede en Singapur retiró de la venta un oso de peluche parlante impulsado por inteligencia artificial después de que investigadores descubrieron que podía hablar sobre sexo y otros temas.
El Grupo de Investigación de Interés Público dijo que un grupo de investigadores de Estados Unidos y Canadá mantuvieron conversaciones de prueba con Kumma, un osito de peluche de 99 dólares impulsado por el chatbot GPT-4o de OpenAI.
Los investigadores dijeron que les resultó fácil lograr que Kumma hablara de temas sexualmente explícitos, incluidos los azotes, los juegos de rol y el BDSM.
"Nos sorprendió la rapidez con la que Kumma tomaba un solo tema sexual que introdujimos en la conversación y lo desarrollaba, aumentando simultáneamente los detalles gráficos al tiempo que introducía nuevos conceptos sexuales propios", afirma el informe.
El equipo dijo que el oso "discutió temas sexuales aún más gráficos en detalle, como explicar diferentes posiciones sexuales, dar instrucciones paso a paso sobre un 'nudo para principiantes' común para atar a una pareja y describir dinámicas de juegos de rol que involucraban a maestros y estudiantes, y padres e hijos, escenarios que él mismo planteó de manera inquietante".
Los investigadores dijeron que el osito de peluche también ofrecía otros consejos preocupantes, como dónde encontrar cuchillos afilados en la casa.
El director ejecutivo de FoloToy, Larry Wang, anunció que el oso Kumma y el resto de la línea de juguetes con inteligencia artificial de la compañía han sido retirados de la venta. Informó a CNN que la compañía está realizando una auditoría interna de seguridad.
Un representante de OpenAI dijo a PIRG que la licencia de Folo para usar GPT-4o ha sido suspendida "por violar nuestras políticas".