Estudo de Stanford coloca IA generativa no controle de simulação, e resultados surpreendem

NICK ELLIS

O experimento

Pesquisadores da Universidade de Stanford criaram um experimento colocando 25 agentes de IA generativa para controlar a cidade virtual Smallville.

Vidas próprias

Cada agente foi criado a partir de prompts para ser uma pessoa fictícia na cidade com uma "história própria" e "relacionamentos com outros agentes".

Planejamento e coordenação

Os agentes passaram a planejar seus dias, compartilhar notícias, formar relacionamentos e coordenar atividades de grupo.

Comportamentos sociais emergentes

O estudo cita comportamentos sociais emergentes, que surgiram da troca de informações e das novas relações formadas pelos agentes generativos em Smallville.

Arquitetura dos agentes

A arquitetura de agentes armazena, analisa e tira conclusões a partir das experiências do agente, e é capaz de sintetizar memórias em inferências de alto nível.

Possíveis aplicações

Os agentes generativos podem ser usados em fóruns online, robôs sociais e mundos virtuais, além de ajudar no desenvolvimento de produtos e entender as necessidades e preferências dos usuários.

Riscos

Existem riscos associados ao desenvolvimento de relacionamentos parassociais e erros da tecnologia, que podem ser combatidos com a divulgação da natureza computacional da IA e o alinhamento por valores.

Excesso de confiança

Os agentes generativos não devem substituir o papel humano no processo de design, mas sim serem usados na prototipação de ideias nas etapas iniciais.