Um grupo de pesquisadores de inteligência artificial (IA) assinou uma carta pública nesta quarta-feira (29) pedindo uma pausa nos desenvolvimentos de IA que estão acontecendo em todo o mundo. A carta, publicada pelo Future of Life Institute (FLI), conta com 1280 assinaturas até o momento da publicação deste post, incluindo a do fundador da SpaceX, Elon Musk.
O Future of Life Institute é uma organização sem fins lucrativos que se dedica a garantir que o desenvolvimento de IA seja benéfico para a humanidade. Na carta, o grupo de pesquisadores cita que os laboratórios de estão atualmente presos em uma “corrida fora de controle” para desenvolver e implantar sistemas de aprendizado de máquina “que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar confiavelmente”.
O que diz a carta que pede uma pausa nas pesquisas de IA?
Um trecho da carta diz: “Pedimos que vocês, que lideram empresas e laboratórios de IA, parem imediatamente por pelo menos 6 meses o treinamento de sistemas de IA mais poderosos que o GPT-4 e se concentrem em modelos de IA com menos probabilidades de causar danos irreparáveis”.
Além de Elon Musk, a carta é assinada por vários pesquisadores e CEOs de IA conhecidos, além de personalidades como o professor e autor Yuval Noah Harari, o lendário cofundador da Apple, Steve Wozniak, e o cofundador do Skype, Jaan Tallinn.
Preocupação com o uso da inteligência artificial
Os pesquisadores estão preocupados com o impacto potencialmente negativo da IA na privacidade, segurança e emprego. A IA já está sendo usada para tomar decisões críticas em áreas como finanças, medicina e justiça. A preocupação é que esses sistemas possam ser desenvolvidos sem a devida consideração de possíveis efeitos colaterais.
Além disso, eles também enfatizam a necessidade de mais pesquisa em IA explicável. Muitos sistemas de aprendizado de máquina são caixas pretas, o que significa que é difícil entender como eles tomam decisões ou por que fazem o que fazem. Isso pode levar a erros graves e até mesmo a consequências fatais, especialmente em áreas como a medicina, onde a tomada de decisões precisa ser transparente e explicável.
Elon Musk, em particular, tem sido um crítico da IA e suas possíveis consequências negativas. Ele já alertou sobre a possibilidade de a IA tornar-se “mais inteligente” do que a humanidade e até mesmo ameaçar a sobrevivência da espécie humana. A carta é mais um exemplo de sua preocupação com o assunto.
Embora a IA tenha o potencial de revolucionar o mundo em muitos aspectos, é importante lembrar que é uma tecnologia nova e em rápida evolução que ainda tem muito a aprender. É responsabilidade dos pesquisadores de IA trabalhar em conjunto para garantir que sua pesquisa beneficie a humanidade, ao invés de prejudicá-la.
A pausa de seis meses nos “gigantes experimentos de IA” pode ser uma oportunidade para os pesquisadores refletirem sobre suas prioridades e trabalharem em direção a um futuro em que a IA beneficie toda a humanidade.
Perguntamos ao Google Bard o que ele achava dessa pausa de 6 meses nas pesquisas de IA, e ele gostou da ideia.
Assine nossa Newsletter para receber os melhores conteúdos do Itshow em sua caixa de entrada.
