Autoridades da China realizaram neste domingo (7) a primeira prisão relacionada ao uso de uma inteligência artificial criadora de conteúdo no país, de acordo com o South China Morning Post nesta segunda-feira (8).
A polícia informou que o suspeito, de sobrenome Hong, foi detido em Gansu, nordeste do país. Ele confessou ter usado o ChatGPT, desenvolvido pela OpenAI, para criar notícias falsas com base em elementos de notícias que viralizaram localmente nos últimos anos. Embora o aplicativo não esteja disponível na China, é possível acessá-lo por meio de uma VPN, uma ferramenta que mascara a localização do usuário.
A primeira notícia falsa que chamou a atenção das autoridades foi publicada em 25 de abril e afirmava que nove pessoas haviam morrido em um acidente de trem. Variações desse texto foram publicadas em pelo menos 20 contas diferentes do Baijiahao, uma plataforma de leitura de blogs administrada pela Baidu, equivalente local do Google, e receberam mais de 15 mil acessos até então.
A polícia de Gansu afirmou que Hong será acusado do crime de perturbação pública, que desde 2013 inclui casos de pessoas que publicaram ou disseminaram notícias falsas na internet. A pena prevista é de cinco anos de detenção, podendo ser estendida para dez anos em casos mais graves.
Estabelecer limites para o comportamento de inteligências artificiais é um desafio enfrentado pelo setor como um todo. No entanto, na China, onde o controle da internet é parte da política de censura do Partido Comunista, o rigor é ainda mais rigoroso. O governo chinês proíbe a circulação de notícias e informações que desagradem ao governo ou que possam gerar problemas para a sociedade.
Os termos de uso do GLM-130B, um modelo especializado em inglês e chinês lançado pela Universidade Tsinghua em 2022, incluem restrições para aplicações que possam prejudicar o governo chinês. “Você não usará este software para qualquer ação que possa minar a segurança ou unidade nacionais da China, prejudicar o interesse público da sociedade ou infringir direitos e interesses de seres humanos”, diz trecho da licença.
Além disso, o país asiático responsabiliza os criadores dos algoritmos por quaisquer conteúdos inapropriados gerados.
O caso de Hong marca não apenas a primeira prisão de um suspeito pelo mau uso de uma inteligência artificial, mas também é o primeiro desse tipo desde o lançamento de uma ampla legislação de regulação de inteligência artificial em janeiro. Essa legislação, instituída pela Administração do Ciberespaço da China em conjunto com os ministérios da Indústria e Tecnologia da Informação e da Segurança Pública, exige que textos, vídeos e imagens sintetizados por inteligência artificial sejam “claramente identificados” para evitar que a população acredite em sua veracidade. Anteriormente, essa questão estava sob a responsabilidade de diversas autoridades diferentes.