AI é uma desculpa para o Facebook continuar bagunçando

Ao longo de 10 horas acumuladas, espalhadas ao longo de dois dias de audiências, Mark Zuckerberg se esquivou de questão após pergunta ao citar o poder da inteligência artificial.

Moderando o discurso de ódio? AI vai consertar isso. Conteúdo terrorista e recrutamento? AI novamente. Contas falsas? Ai. Desinformação russa? Ai. Anúncios racialmente discriminatórios? Ai. Segurança? Ai.

Não está totalmente claro o que Zuckerberg quer dizer com “AI” aqui. Ele repetidamente mencionou como os sistemas de detecção do Facebook derrubam automaticamente 99% do “conteúdo terrorista” antes de qualquer tipo de sinalização. Em 2017, o Facebook anunciou que estava “experimentando” com a IA para detectar uma linguagem que “poderia estar advogando pelo terrorismo” – presumivelmente uma técnica de aprendizado profundo. Não está claro que o aprendizado profundo é, na verdade, parte do sistema automatizado do Facebook. (Nós enviamos um e-mail ao Facebook para esclarecimentos e ainda não recebemos nenhuma resposta). Mas sabemos que a IA ainda está engatinhando quando se trata de entender a linguagem. Como James Vincent, do The Verge , conclui em sua reportagem, a inteligência artificial não está à altura quando se trata das nuances da linguagem humana , e isso nem mesmo leva em consideração os casos extremos em que até os humanos discordam. Na verdade, a IA talvez nunca seja capaz de lidar com certas categorias de conteúdo, como notícias falsas.

Além disso, os tipos de conteúdo em que Zuckerberg se concentrou nas audiências foram imagens e vídeos. Pelo que sabemos sobre o sistema automatizado do Facebook, em sua essência, é um mecanismo de pesquisa em um banco de dados compartilhado de hashes . Se um vídeo de uma decapitação subir e for identificado anteriormente como conteúdo terrorista no banco de dados – pelo Facebook ou por um dos seus parceiros – ele será automaticamente reconhecido e retirado. “É difícil diferenciar entre esse e os primeiros dias do mecanismo de busca do Google, do ponto de vista tecnológico”, diz Ryan Calo, professor de direito e diretor do Tech Policy Lab da Universidade de Washington. “Se isso foi AI, então isso é AI.”

Isso é o que há de bom na IA como desculpa: a inteligência artificial é um amplo termo abrangente que pode incluir automação de todas as variedades, aprendizado de máquina ou, ainda mais especificamente, aprendizado profundo. Não é necessariamente errado ligar para o AI do sistema de remoção automática do Facebook. Mas você sabe que se disser “inteligência artificial” diante de um grupo de legisladores, eles começarão a imaginar o AlphaGo ou talvez mais fantasiosamente, a SkyNet e o C-3PO derrubando os vídeos de decapitação terroristas antes que alguém os veja. Nenhum deles está imaginando a pesquisa do Google.

A invocação da IA ​​é uma evasiva empregada em um grupo de leigos que, em sua maior parte, infelizmente a engoliram em parte e parcela. A única exceção pode ter sido o senador Gary Peters (D-MI) que fez uma pergunta sobre a transparência da IA. “Mas você também sabe que a inteligência artificial não é isenta de riscos, e que você precisa ser muito transparente sobre como esses algoritmos são construídos”. A resposta de Zuckerberg foi reconhecer que era uma questão “realmente importante” e que o Facebook tinha um todo. Equipe de ética em IA trabalhando na questão.

“Eu não acho que em 10 ou 20 anos, no futuro, que todos nós queremos construir, queremos acabar com sistemas que as pessoas não entendem como estão tomando decisões”, disse Zuckerberg.

Zuckerberg disse repetidas vezes nas audiências que, em cinco a dez anos, ele estava confiante de que eles teriam sistemas de IA sofisticados que estariam à altura do desafio de lidar com linnuance guistic. Nos dê cinco a dez anos, e teremos tudo isso resolvido.

Mas o ponto não é apenas que o Facebook não conseguiu escalar para moderação de conteúdo. Não conseguiu detectar categorias inteiras de mau comportamento – como campanhas intencionais de desinformação conduzidas por estados-nação, a disseminação de relatórios falsos (seja por estados-nação ou meros aproveitadores) e vazamentos de dados como o escândalo Cambridge Analytica. Não é transparente sobre suas decisões de moderação, mesmo quando essas decisões são conduzidas pela inteligência humana. Não conseguiu lidar com sua crescente importância no ecossistema da mídia, não salvaguardou a privacidade dos usuários, não conseguiu antecipar seu papel no genocídio de Mianmar e é possível que falhe em salvaguardar a democracia americana.

A inteligência artificial não pode resolver o problema de não saber o que diabos você está fazendo e não se importar de uma forma ou de outra. Não é uma solução para miopia e falta de transparência. É uma desculpa que se desvia da questão em si: se e como regular o Facebook.

De fato, os avanços na IA sugerem que a própria lei deveria mudar para acompanhá-la, e não que uma abordagem de não-intervenção seja mais garantida.

A inteligência artificial é apenas uma ferramenta nova, que pode ser usada para bons e maus propósitos e que também traz novos perigos e desvantagens. Já sabemos que, embora o aprendizado de máquina tenha um enorme potencial, os conjuntos de dados com vieses arraigados produzirão resultados tendenciosos – lixo, lixo. O software usado para prever a reincidência nos réus resulta em resultados racistas, e técnicas artificiais mais sofisticadas simplesmente tornarão esses tipos de decisão mais opacos. Esse tipo de opacidade é um problema enorme quando o aprendizado de máquina está sendo implantado com a mais pura das boas intenções. É um problema ainda maior quando o aprendizado de máquina está sendo implantado para melhor direcionar os consumidores aos anúncios – uma prática que, mesmo sem aprendizado de máquina, permitia à Target descobrir que uma adolescente estava grávida antes que seus pais soubessem .

“Simultaneamente, a alegação é que a IA muda tudo – muda a maneira como fazemos tudo, é um fator de mudança – mas nada deve mudar”, diz Ryan Calo. “Uma dessas coisas não pode estar certa. Ou é tudo hype e não devemos exagerar, ou representa uma mudança de mar legítimo. É realmente ilusório argumentar que a única razão pela qual devemos sair do caminho da IA ​​é que ela é tão transformadora ”.

Se já não está claro que “espere e veja que maravilhas tecnológicas criamos” é apenas uma barraca, é óbvio pela abordagem do Facebook à privacidade que ela está mais do que disposta a parar para sempre. Em uma parte da audiência de quarta-feira perante o Comitê da Câmara para Energia e Comércio, Zuckerberg disse em resposta a uma pergunta sobre privacidade: “Acho que vamos descobrir quais são as normas sociais e as regras que queremos colocar em prática. Então, daqui a cinco anos, voltaremos e teremos aprendido mais coisas. E ou será que as normas sociais evoluíram e as práticas da empresa evoluíram, ou vamos colocar regras em prática ”.

Cinco anos? Vamos esperar cinco anos para descobrir a privacidade do usuário? Faz 14 anos desde a fundação do Facebook. Há pessoas em idade de votar que não se lembram de um tempo antes do Facebook. Facebook foi criticado pela primeira vez por falha de privacidade em 2006, quando lançou seu News Feed, sem dizer aos usuários como ele seria e como suas configurações de privacidade afetariam o que seus amigos viram. Em 2007, lançou o Beacon, que injetou informações sobre compras de usuários no News Feed, uma decisão que resultou em uma ação coletivachapéu liquidado por US $ 9,5 milhões. A FTC colocou o Facebook sob um decreto de consentimento em 2011 sobre suas falhas de privacidade , um decreto de consentimento que pode estar violando por causa do escândalo da Cambridge Analytica.

Citando a desculpa da IA, Mark Zuckerberg está simplesmente se preparando para tropeçar de um pântano ético para outro. Ele não sabia o que estava fazendo quando criou o Facebook e, para ser justo, ninguém sabia. Quando o Facebook lançou, mergulhou de cabeça em um admirável mundo novo. Ninguém sabia que o custo de conectar pessoas em todo o mundo para obter receita publicitária acabaria sendo Cambridge Analytica.

Mas as pistas estavam lá o tempo todo: os defensores da privacidade repetidamente advertiram contra a coleta agressiva e indiscriminada de dados, outros opinaram sobre a estranheza da segmentação de anúncios e especialistas levantaram preocupações sobre os efeitos das redes sociais nas eleições .

Dê ao Facebook cinco a dez anos para consertar seus problemas e, daqui a cinco ou dez anos, Mark Zuckerberg testemunhará perante o Congresso mais uma vez sobre as consequências não intencionais de seu uso da inteligência artificial.

Click here for more information