Meta irá rotular imagens geradas por IA no Facebook, Instagram e Threads

Por Redação em 07/02/2024 às 14:19:50

A Meta est√° trabalhando para detectar e rotular imagens geradas por IA de outras empresas, no Facebook , Instagram e Threads , enquanto a empresa pressiona para denunciar pessoas e organizações que desejam ativamente enganar as pessoas.

A empresa j√° rotula imagens de IA geradas por seus próprios sistemas. O objetivo é que a nova tecnologia, que ainda est√° sendo constru√≠da, crie um impulso para a ind√ļstria combater a falsificação da IA. Em um blog escrito pelo executivo s√™nior Sir Nick Clegg , a Meta afirma que pretende expandir sua rotulagem de falsificações de IA nos próximos meses.

Porém, o professor Soheil Feizi, diretor do Reliable AI Lab da Universidade de Maryland, defende que o sistema poderia ser f√°cil de contornar.

"Eles podem treinar seu detector para sinalizar algumas imagens geradas especificamente por alguns modelos espec√≠ficos. Mas esses detectores podem ser facilmente contornados por algum processamento leve nas imagens e também podem ter uma alta taxa de falsos positivos. Portanto, não acho que seja poss√≠vel para uma ampla gama de aplicações", disse ele à BBC.

Meta reconheceu que sua ferramenta não funcionar√° para √°udio e v√≠deo, apesar de serem esses os meios de comunicação em que se concentra grande parte da preocupação com falsificações de IA. A empresa afirma que, em vez disso, est√° pedindo aos usu√°rios que rotulem suas próprias postagens de √°udio e v√≠deo, podendo aplicar penalidades se não cumprirem.

Nesta segunda-feira (5), o Conselho de Supervisão da Meta criticou a empresa pela sua pol√≠tica sobre m√≠dia manipulada, chamando-a de incoerente, sem justificativa persuasiva e focada inadequadamente em como o conte√ļdo foi criado.

O Conselho de Supervisão é financiado pela Meta, mas independente da empresa. A cr√≠tica foi em resposta a uma decisão sobre um v√≠deo do presidente dos EUA, Joe Biden. O v√≠deo em questão editou imagens existentes do presidente com sua neta. Como não foi manipulado usando intelig√™ncia artificial, o v√≠deo não foi removido. O Conselho concordou que o v√≠deo não violava as regras atuais da Meta sobre m√≠dia falsa, mas disse que as regras deveriam ser atualizadas.

Além disso, a empresa est√° desenvolvendo ferramentas para identificar esses tipos de marcadores quando usados ??por outras empresas, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock em seus geradores de imagens de IA.

"À medida que a diferença entre conte√ļdo humano e sintético fica confusa, as pessoas querem saber onde est√° a fronteira.Muitas vezes as pessoas encontram pela primeira vez conte√ļdo gerado por IA e nossos usu√°rios nos disseram que apreciam a transpar√™ncia em torno desta nova tecnologia. Portanto, é importante ajudarmos as pessoas a saber quando o conte√ļdo fotorrealista que estão vendo foi criado usando IA", disse Clegg.

O executivo também contou sobre a ideia de colocar rótulos mais not√°veis em imagens, v√≠deos ou √°udios criados ou alterados digitalmente, que criem um risco particularmente alto de enganar o p√ļblico sobre um assunto de import√Ęncia.

Os deepfakes de IA j√° entraram no ciclo eleitoral presidencial dos EUA, com chamadas autom√°ticas do que se acredita ter sido um deepfake gerado por IA da voz do presidente dos EUA, Joe Biden, desencorajando os eleitores de comparecer às prim√°rias democratas em New Hampshire.

Nine News na Austr√°lia na semana passada também enfrentou cr√≠ticas por alterar uma imagem do deputado do partido Victorian Animal Justice, Georgie Purcell, para expor sua barriga e alterar seu peito em uma imagem transmitida no notici√°rio noturno. A rede culpou a automação do produto Photoshop da Adobe, que possui ferramentas de imagem de IA.

*Foto de capa: mundissima/Shutterstock

Fonte: IG

Comunicar erro
Agro Noticia 728x90