Vea También
La división de Inteligencia Artificial (IA) de la empresa japonesa
Sony ha creado un agente de IA que puede superar a los mejores pilotos
humanos en Gran Turismo (GT), un juego de carreras de coches realista.
En
un
comunicado de prensa, la empresa explicó sus esfuerzos para crear este agente, llamado
GT Sophy, y cómo consigue superar a los humanos en un juego que implica
muchas opciones tácticas abiertas.
Desarrollado por Polyphony
Digital Inc. (PDI), Gran Turismo hace un buen trabajo al recrear el entorno de
las carreras del mundo real en el ámbito digital. El juego no sólo cuenta con
coches y circuitos muy parecidos a los de la vida real, sino que también
incorpora fenómenos físicos del mundo real, como la resistencia del aire y la
fricción de los neumáticos de los coches.
Sony ha dejado de lado la técnica de aprendizaje profundo
que se utiliza convencionalmente para entrenar a la IA y, en su lugar, ha
utilizado un novedoso método de aprendizaje por refuerzo (RL) para entrenar a
GT Sophy. Con este método, el agente de IA entró sin entrenamiento a correr en
los circuitos y cada una de sus acciones fue recompensada o penalizada en
función de los resultados a los que condujeron.
Según los detalles
compartidos por PDI, la RL es un avance reciente en la IA que se está
aplicando a los juegos de arcade y de estrategia y que permite a los agentes
de IA comprender las repercusiones a largo plazo de sus acciones y eliminar la
necesidad de codificar el comportamiento en el agente.
Utilizando
la RL, GT Sophy fue capaz de dominar el juego de un modo que los pilotos de
raza humana no han conseguido hasta ahora. En resumen, PDI muestra cómo el
agente de IA ha dominado la conducción junto a los muros sin hacer contacto e
incluso los adelantamientos en las curvas cerradas en los clips compartidos en
su sitio web.
Y lo que es más importante, el equipo ha sido capaz
de entrenar a GT Sophy de forma que pueda ser competitivo sin ser injusto. Al
adelantar, el agente de la IA se asegura de no bloquear la línea de conducción
de sus competidores y de que haya suficiente espacio para maniobrar, afirma la
empresa.
Los jugadores más aclamados del juego han comprobado que
GT Sophy ha aumentado los límites de conducción en una o dos muescas y se han
visto inspirados para correr a mayor intensidad, algo que Sony AI pretendía
cuando empezó a desarrollar el agente de IA. La empresa aún no ha terminado y
quiere integrar la IA en el juego de cara al futuro.
Fuentes, créditos y referencias:
Peter R. Wurman et al, Outracing champion Gran Turismo drivers with deep reinforcement learning, Nature (2022). DOI: 10.1038/s41586-021-04357-7
J. Christian Gerdes, Neural networks overtake humans in Gran Turismo racing game, Nature (2022). DOI: 10.1038/d41586-022-00304-2
Fuentes: Gran Turismo, Interesting Engineering