Nos últimos anos, a inteligência artificial (IA) tem se consolidado como uma das principais forças impulsionadoras da transformação digital em todo o mundo. Em resposta a essa crescente onda de inovação, o governo peruano publicou recentemente uma regulação que estabelece um marco jurídico detalhado para o desenvolvimento e o uso da IA no país. Essa medida visa garantir que a tecnologia seja utilizada de forma ética, transparente e responsável, protegendo os direitos fundamentais dos cidadãos enquanto fomenta a inovação.
A regulação, liderada pela Secretaria de Governo e Transformação Digital (SGTD), define um conjunto de princípios e diretrizes que buscam equilibrar a inovação tecnológica com a proteção de dados pessoais, a mitigação de vieses algorítmicos e o respeito aos direitos humanos. Além disso, o Peru busca se posicionar como líder na América Latina no desenvolvimento de IA, promovendo uma abordagem equilibrada que alinha a evolução tecnológica à confiança pública.
A visão por trás da regulação
A regulação peruana se baseia na criação de um ecossistema regulado que possibilite a experimentação com IA, mas com supervisão e regras claras para garantir a transparência. O objetivo é promover um ambiente de inovação em que as empresas e startups possam desenvolver novas soluções tecnológicas, ao mesmo tempo em que se assegura que essas tecnologias sejam benéficas para a sociedade e respeitem os direitos dos cidadãos.
O governo peruano não se limita apenas à regulação. Ele também incentiva a criação de um ambiente de testes, ou “sandbox”, onde empresas e entidades públicas podem validar suas inovações tecnológicas antes de implementá-las em larga escala. Este ambiente seguro permitirá que as tecnologias de IA sejam testadas em um espaço controlado, permitindo avaliar seus impactos sociais e econômicos de forma mais eficaz.
Principais diretrizes da regulação peruana sobre IA
A regulação de IA do Peru introduz várias medidas importantes, com destaque para a prevenção de algoritmos enviesados e a promoção de maior transparência no funcionamento dos sistemas. Ela exige que todos os sistemas de IA adotem práticas éticas rigorosas, com a obrigação de informar aos usuários o propósito e a forma de funcionamento dos sistemas utilizados. Além disso, a regulação impõe uma supervisão humana contínua, especialmente nos casos de IA aplicadas a setores sensíveis, como saúde, educação, segurança e outros serviços críticos.
Um aspecto fundamental da regulação é o conceito de “transparência algorítmica”. Para sistemas de risco alto, a norma exige que as decisões tomadas por IA sejam claras e passíveis de explicação, especialmente quando impactam diretamente os direitos dos cidadãos. Isso garante que os usuários possam entender como e por que uma decisão foi tomada por um sistema automatizado.
Classificação de riscos e usos proibidos
A regulação peruana classifica os sistemas de IA de acordo com o risco que representam para os direitos fundamentais dos cidadãos. Existem três níveis principais de risco:
- Uso Proibido: Inclui tecnologias que manipulem decisões humanas de forma enganosa, sistemas com capacidades letais autônomas, ou que promovam vigilância massiva sem justificativa legal. Também estão proibidos os sistemas de IA que utilizam a identificação biométrica em tempo real em espaços públicos, salvo em casos excepcionais relacionados a crimes graves.
- Risco Alto: Sistemas que impactam diretamente áreas sensíveis, como saúde, educação, e serviços públicos essenciais, como energia e segurança. Esses sistemas podem ser usados, mas sob condições estritas de supervisão e transparência.
- Risco Aceitável: Refere-se a sistemas que não afetam diretamente os direitos fundamentais, mas que ainda precisam cumprir com as exigências legais e regulatórias para garantir a conformidade e a ética.
Essa classificação permite uma abordagem diferenciada para o uso de IA, considerando a sua aplicação e os riscos envolvidos.
Fomento à inovação e apoio a empreendedores
Um dos objetivos centrais da regulação é apoiar a inovação, especialmente entre pequenas e médias empresas (MiPymes) e startups. O governo peruano criará mecanismos de financiamento, mentorias e visibilidade para essas empresas, oferecendo oportunidades para que elas se envolvam no desenvolvimento de soluções tecnológicas inovadoras com IA. Esse apoio inclui a organização de eventos, como feiras e desafios, que proporcionarão uma plataforma para o crescimento do setor.
Além disso, o Peru reconhece a importância da colaboração entre o setor privado, o governo e a academia para promover o desenvolvimento de IA. A regulação incentiva parcerias que contribuam para o avanço da IA, incluindo a participação ativa das universidades e centros de pesquisa no desenvolvimento de novos modelos e algoritmos.
Proteção de grupos vulneráveis
Outro aspecto relevante da regulação é o foco na proteção de grupos vulneráveis. Todos os sistemas de IA devem garantir inclusão, acessibilidade e segurança para mulheres, crianças, idosos, pessoas com deficiência e outras comunidades em situação de vulnerabilidade. A regulação coloca uma ênfase particular na necessidade de mitigar qualquer forma de discriminação e garantir que os benefícios da IA sejam acessíveis a todos os cidadãos, independentemente de sua condição social ou econômica.
Governança e Supervisão
A governança da IA no Peru será supervisionada pela SGTD, que atuará como a autoridade técnico-normativa responsável por coordenar com outros ministérios, entidades reguladoras, academia e o setor privado. Além disso, a regulação introduz diversos instrumentos estratégicos, como a Estratégia Nacional de Inteligência Artificial (ENIA), que servirá como base para o desenvolvimento e treinamento de sistemas de IA no país.
Com esta regulação, o Peru busca estabelecer um equilíbrio entre a inovação tecnológica e a proteção dos direitos fundamentais dos cidadãos. Ao incentivar o desenvolvimento responsável da IA e ao promover a transparência e a ética, o país se posiciona como um exemplo para a América Latina, criando um ambiente mais seguro e confiável para a implementação dessa tecnologia transformadora.
Ao adotar essa abordagem, o Peru não só avança em termos tecnológicos, mas também reforça seu compromisso com a justiça social e o bem-estar de sua população, ao mesmo tempo em que se torna um líder regional no cenário da inteligência artificial. A regulação peruana é uma demonstração clara de como os países podem criar políticas públicas que incentivem a inovação, ao mesmo tempo em que garantem a proteção e o respeito pelos direitos humanos.
Siga o Itshow no LinkedIn e assine a nossa News para ficar por dentro de todas as notícias do setor de TI e Cibersegurança!
