Na semana passada, o Itshow participou de uma apresentação de segurança da rede social Koo, rival indiana do Twitter, e ficamos muito bem impressionados com a quantidade de recursos para prevenir abusos e remover conteúdos não apropriados no site e no app.
Foi uma ótima oportunidade para conhecer todo o processo de moderação, desde a identificação de um conteúdo que não deveria estar na plataforma até o que acontece com ele e com quem o postou.
Além disso, também foi demonstrada a facilidade que os usuários do Koo têm para reportar esse conteúdo indevido. O Koo trabalha com ONGs e com autoridades para melhorar seus processos de moderação, que usam algoritmos desenvolvidos pela própria empresa.
Nas palavras do fundador do Koo, Mayank Bidawatka, “a moderação de conteúdo é uma jornada, e as plataformas precisam evoluir constamente seus métodos e processos para se certificar que estão adequados aos ataques mais recentes dos criadores de caos, para protegerem os cidadãos em geral.”
Diferentes algoritmos de moderação
A empresa tem alguns algoritmos de moderação feitos pela sua equipe de desenvolvedores, como o ‘No Nudity Algorithm’, que detecta nudez, que não é aceita na plataforma. Também existem soluções para prevenir a publicação de conteúdo tóxico ou violento, e o ‘MisRep Algorithm’, que identifica pessoas que estejam tentando se passar por outras, principalmente personalidades bem conhecidas.
Finalmente, existe uma ferramenta para coibir a desinformação, com o ‘Misinfo & Disinfo Algorithm’, que escaneia todos os relatórios de fake news de fontes públicas e privadas, e detecta e rotula posts como desinformação, impedindo que ele viralize na plataforma.
Próximos passos da segurança na rede social
No final da apresentação, pude fazer algumas perguntas a Harsh Singhal, head de Machine Learning e IA do Koo, que trabalhou em empresas de Big Tech como Netflix e LinkedIn no Silicon Valley na Califórrnia por 10 anos antes de voltar para a Índia e aceitar esse desafio. Em primeiro lugar, quis saber quais são os próximos passos na segurança da plataforma.
Em suas palavras, “temos uma equipe muito boa no Koo, que se reúne quase todos os dias para resolver esses problemas. Então, o Rajneesh (Jaswal, General Counsel), eu e o Rahul (Satyakam, gerente de operações), trabalhando com os fundadores, estamos constantemente tentando melhorar nossas métricas para manter a plataforma segura.”
Harsh Singhal contou que tem um grande plano de ação, e sua equipe está escrevendo código o tempo todo para alcançar melhorias na moderação de conteúdo. Ele também falou sobre a integração com o ChatGPT, anunciada dez dias atrás, que está disponível para usuários do Koo Premium, por enquanto ainda em inglês.
Ele diz que o que eles querem é “construir uma personalização para que você se sinta em casa no Koo, encontre o que deseja se conectar, com as pessoas que realmente se importa, a quem admira. Queremos ser a alternativa a muitas das plataformas que deixaram seus usuários na mão. Acho que é isso que queremos fazer nos próximos meses, e continuar fazendo o máximo que pudermos.”
Koo não pretende cobrar seus usuários pelo selo de verificado
Também perguntei sobre a questão do rival Twitter vender o selo de verificado, e as questões de segurança que isso implicava, como o Koo se posicionava em relação a esse tema. Abaixo a resposta.
“Esse é um problema tão financeiro quanto filosófico. Se eu tenho dinheiro e você não tem, eu posso gastá-lo e você não pode, isso acaba criando barreiras artificiais nas redes sociais, nas quais uma pessoa é vista como superior à outra porque pode gastar US$ 8 para obter um ícone de uma cor específica.”
“O símbolo de verificado é um sinal de que a pessoa é famosa ou fez algo na sociedade, e não existe um custo para isso. Você não precisa gastar dinheiro com isso. Se você é alguém que fez um trabalho destacado na sociedade e na sua comunidade, nós vamos reconhecer isso e nosso tributo será verificar seu perfil sem custos. Isso não pode ser vendido, não deveria ser vendido. Isso não pode ser uma barreira para usar as redes sociais.”
Para Singhal, a próxima missão é adaptar a ferramenta ChatGPT para que ela possa ser usada por mais usuários do app Koo. Ele diz que o modelo de IA foi desenvolvido em um grande conjunto de dados centrados na língua inglesa, limitando o seu acesso para usuários de outras línguas. Nas suas palavras, a empresa “está trabalhando para trazer a ferramenta para os usuários de outras línguas, incluindo o hindi e o português brasileiro.”
Saiba mais sobre as mudanças feitas pelo Koo na moderação de conteúdos.
Assine nossa Newsletter para receber os melhores conteúdos do Itshow em sua caixa de entrada.
