28.8 C
São Paulo
quarta-feira, fevereiro 28, 2024
InícioTransformação digitalInteligência artificialEstudo de Stanford coloca IA generativa no controle de simulação, e resultados...

Estudo de Stanford coloca IA generativa no controle de simulação, e resultados surpreendem

Um estudo feito por pesquisadores da Universidade de Stanford, Califórnia, colocou 25 agentes de IA generativa no controle da cidade virtual Smallville, em um ambiente semelhante ao jogo The Sims, para observar o seu comportamento. O objetivo era demonstrar que esses agentes agem “simulacros convincentes de comportamento humano”, e esse foi justamente o resultado obtido no experimento. 

Estudo de Stanford coloca IA generativa no controle de simulação, e resultados surpreendem

Cada um dos agentes foi criado a partir de prompts no ChatGPT da OpenAI para serem uma pessoa ficticía em uma cidade. Todos contavam com uma “história própria”, além de “relacionamentos com outros agentes”, no que foi chamado no estudo de “seed memories”, ou memórias sementes. Segundo o estudo, os agentes de IA passaram a “planejar seus dias, compartilhar notícias, formar relacionamentos e coordenar atividades de grupo”.

Mas esse é só um lado da questão. O paper também cita sobre os comportamentos sociais emergentes, ou seja, que não foram pré-programados, e que surgem da troca de informações e das novas relações formadas pelos agentes regenerativos em Smallville. 

Arquitetura dos agentes de IA armazena, analisa e tira conclusões 

Estudo de Stanford coloca IA generativa no controle de simulação, e resultados surpreendem

Os pesquisadores criaram uma arquitetura de agentes que armazena, sintetiza e aplica memórias relevantes para gerar um comportamento crível usando um grande modelo de linguagem. Essa arquitetura tem três componentes principais, e o primeiro deles é o fluxo de memória, que “grava, em linguagem natural, uma lista completa das experiências do agente”, com um modelo de recuperação, que combina relevância, o que é mais recente e a importância. 

Estudo de Stanford coloca IA generativa no controle de simulação, e resultados surpreendem

O segundo é a reflexão, que “sintetiza memórias em inferências de alto nível ao longo do tempo, permitindo ao agente tirar suas próprias conclusões sobre si mesmo e os outros para melhor guiar seu comportamento. Finalmente, temos o planejar, que “traduz essas conclusões e o ambiente atual em planos de ação de alto nível e recursivamente em comportamentos detalhados para ação e reação”. Como diz o estudo, “isso sugere aplicações em múltiplos domínios, de encenação (role-play) e prototipagem social, a mundos virtuais e jogos.” 

Estudo de Stanford coloca IA generativa no controle de simulação, e resultados surpreendem

Assim, “um designer poderia ir além de personagens temporários para criar interações dinâmicas e complexas que evoluiriam com o tempo”. Uma mostra disso é que em um prompt, um usuário sugeriu que eles organizassem uma festa de Valentine´s Day, ou Dia dos Namorados. A partir daí, os agentes de IA “divulgaram a festa e apareceram no da, e um deles até mesmo marcou um encontro com outro para irem até juntos”. 

Aplicações e riscos da tecnologia

Estudo de Stanford coloca IA generativa no controle de simulação, e resultados surpreendem

Os pesquisadores acreditam que seus agentes generativos “podem ser usados para popular fórums online e metaversos de realidade virtual, além de espaços físicos como robos sociais no futuro”. Eles também podem ser úteis no desenvolvimento de produtos, “ajudando a entender as necessidades e preferências dos usuários”.

Eles também falam sobre dois riscos, o primeiro que humanos desenvolvam relacionamentos parassociais com agentes generativos, mesmo que não apropriados. Para resolver isso, eles propõem dois princípios, que a IA deve “explicitamente divulgar sua natureza de entidade computacional”, e que os desenvolvedores garantam que eles serão alinhados por valores para não reagirem a comportamentos inapropriados para o contexto, por exemplo, “responder a confissões de amor”.

O segundo risco é o possível impacto de erros da tecnologia no mundo real. Para lidar com isso, eles inicialmente propõem que ela seja usada em ambientes de games, no qual impactos seriam improváveis. Eles também sabem que o uso de agentes generativos pode ser usado para “outras ameaças com IA generativa como deepfakes, desinformação e persuasão manipulativa”. Eles sugerem que as plataformas que hospedam os agentes generativos monitorem e cataloguem entradas e saídas e para ser possível “detectar, verificar e intervir contra usos maliciosos”. 

E finalmente, o quarto risco, o de excesso de confiança, que “desenvolvedores ou designers possam usar agentes generativos e deslocar o papel de humanos” no processo de design. O estudo diz que “agentes generativos nunca sejam substitutos para um papel humano real em estudos e processos de design”. Ao invés disso, acha que eles “devem ser usados na prototipação de ideias nas etapas iniciais do design, quando juntar participantes pode ser desafiador ou quando se está testando teorias que são difíceis ou arriscadas para serem testadas em participantes humanos”. 

Estudo de Stanford coloca IA generativa no controle de simulação, e resultados surpreendem

Como cita o TechCrunch, isso pode ter “grandes implicações em simulações de interações humanas, sempre que elas forem relevantes”. Eu concordo, e acredito que é só uma questão de tempo até vermos agentes feitos com o ChatGPT fazendo as mais diversas coisas dentro de games e ambientes virtuais segundo a sua “própria iniciativa”. Ainda nas palavras do TC, já vimos que falando de IA, se “a IA consegue fazer algo de maneira rudimentar, só o fato de conseguir fazer geralmente significa que é só uma questão de tempo até que faça isso bem”.

Assine nossa Newsletter para receber os melhores conteúdos do Itshow em sua caixa de entrada.

Nick Ellis
Nick Ellis
Jornalista de tecnologia, designer de formação e um dos pioneiros da blogosfera brasileira, Nick foi o fundador e primeiro editor-chefe do TechTudo. É o criador dos sites Digital Drops e Blog de Brinquedo, além de ter sido o CEO do Meio Bit por mais de 12 anos. Tem mais de 15 anos de experiência gerenciando redações de tecnologia, além de ser redator de artigos, colunas e reviews de smartphones, TVs, tablets e notebooks, entre muitos outros produtos e serviços. Nick tem mais de uma década de experiência na cobertura das principais feiras e eventos de tecnologia do mundo como a CES, a Computex e a IFA, entre outras. Nos últimos 3 anos, foi editor de produtos, reviews e veículos no site Olhar Digital.
Postagens recomendadas
Outras postagens