Los personajes de videojuegos impulsados por la IA de Nvidia se están volviendo tóxicos | ENBLE

Los personajes de IA de Nvidia son tóxicos | ENBLE

Nvidia

Nvidia ACE, la herramienta que pretende transformar los juegos con inteligencia artificial generativa, está evolucionando y Nvidia acaba de revelar una interesante actualización. Resulta que los desarrolladores no solo podrán utilizar ACE para crear personajes totalmente interactivos, completos con diálogos y expresiones faciales, sino que también podrán utilizar la nueva tecnología NeMo SteerLM de Nvidia para adaptar las personalidades de estos personajes.

Nvidia anunció inicialmente su herramienta ACE a principios de este año, manteniendo los detalles bastante escasos. ACE es algo así como ChatGPT para juegos, diseñado para facilitar a los desarrolladores de juegos la creación de personajes con historias completas, agregando más profundidad a la forma en que interactúan con los jugadores.

Utilizando esta tecnología, los jugadores pueden utilizar entradas de voz para interactuar con personajes no jugadores (NPC) en el juego. Luego, el texto a voz de Riva traduce su voz en una entrada de texto y la alimenta a la IA. Se introduce en un modelo de lenguaje grande (LLM), que genera una respuesta, y Nvidia utiliza algunas herramientas más de IA para convertir la respuesta de nuevo en voz y animar al personaje.

Entre la interacción del jugador y la respuesta del NPC, hay un camino bastante elaborado, y Nvidia acaba de agregar una capa adicional de complejidad al incluir el nuevo NeMo SteerLM.

Nvidia presenta NeMo SteerLM como unos interruptores que deberían facilitar el ajuste del comportamiento de un personaje. Las tres opciones que hemos visto hasta ahora son “Creatividad”, “Humor” y “Toxicidad”. Si bien la mayoría de los jugadores, al menos los que juegan en línea, están acostumbrados a comportamientos tóxicos en este momento, es interesante verlo como una opción para lo que es básicamente un chatbot de IA con pasos adicionales.

Nvidia

Antes de la incorporación de NeMo SteerLM, la IA prepararía una respuesta personalizada para responder a la consulta del jugador. Luego pasaría nuevamente por Riva para convertir el texto en voz y, por último, por Nvidia Omniverse para las expresiones faciales que coincidan con el habla. Ahora, sin embargo, antes de que la IA genere una respuesta, NeMo SteerLM intervendrá con algunos atributos para determinar qué tan útil, divertido o peculiar será el NPC en sus interacciones.

Aumentar estos tres rasgos podría llevar a resultados hilarantes, pero igualmente es fácil imaginar que la IA se descontrole por completo, al igual que aquella vez en que Bing Chat nos dijo que quería ser humano.

Para combatir una posible locura de la IA, Nvidia ha lanzado la herramienta NeMo Guardrails para que los desarrolladores puedan bloquear este tipo de comportamientos locos y evitar que los jugadores intenten lograr resultados indeseados. Ahora, el camino entre el jugador y la IA se ha ampliado para incluir otra herramienta. Estoy ansioso por ver esta función implementada en los juegos. Algo me dice que, a pesar de todos los esfuerzos de Nvidia, los primeros días de ACE en los juegos no serán tan armoniosos como uno podría esperar.