Por que não podemos deixar a AI nas mãos da Big Tech

Novos avanços na inteligência artificial vêm espesso e rápido nos dias de hoje. No mês passado, o DeepMind da Google revelou o último AI de Go-playing que dominou o antigo jogo do zero em apenas 70 horas. A AI pode detectar o câncer em varreduras médicas melhor do que os humanos, o que significa que a radioterapia pode ser direcionada em minutos, e não em horas. Em breve, podemos usar a tecnologia para projetar novos medicamentos, ou reutilizar os existentes para tratar outras doenças, negligenciadas.

Mas, à medida que começamos a perceber essas oportunidades, aumentam os riscos potenciais: a AI irá proliferar, descontrolada e desregulada, nas mãos de algumas empresas de tecnologia cada vez mais poderosas, à custa de empregos, igualdade e privacidade. Já, os erros sobre a partilha de registros de pacientes entre o DeepMind e o Royal Free Hospital em Londres aumentaram as preocupações do público sobre as empresas de tecnologia envolvidas em cuidados de saúde digitais.

Como o Guardião informou esta semana , o perigo de uma reação pública à AI, semelhante ao observado com a introdução de culturas geneticamente modificadas, é muito real. Há semelhanças – a preocupação com as consequências imprevistas, a complexidade da nova tecnologia, a necessidade de engajamento público e, acima de tudo, o papel da indústria.

Com as culturas transgênicas, as empresas inicialmente colheram os benefícios, enquanto a sociedade correu os riscos e o mesmo pode ser aplicado à AI. Mas também há diferenças significativas. As barreiras à introdução de AI são muito menores do que para culturas GM, onde os ensaios devem ser aprovados, assim como a venda de sementes e produtos. Online, não há fronteiras, e a regulamentação nacional é inexistente ou difícil de implementar.

Então, a preocupação real com uma reação pública é que a resposta não será uma regulação generalizada de todo o mercado, mas sim uma repressão ao uso da AI no setor público. As empresas privadas continuarão a usar a IA, não regulamentada, para melhorar a segmentação de produtos. Mas no setor público onde pode haver benefícios que mudem a vida, a excessiva regulamentação significará que as oportunidades serão perdidas.

Isso não quer dizer que a IA deveria se espalhar sem controle no NHS. Mas enfatiza o porquê é tão importante entender isso. AI só pode ser introduzido com sucesso no SNS se o público, os pacientes e os profissionais de saúde tiverem confiança no sistema, incluindo uma supervisão clara e responsabilidade.

A transparência é essencial, e também uma conversa significativa com o público – algo que faltou com o programa fallido care.data e a parceria do DeepMind com o Royal Free. Ter uma discussão inicial sobre o valor dos dados e encontrar uma maneira para o NHS perceber esse valor ao usar serviços com base em algoritmos que exigem dados do paciente, é crucial. Finalmente, as implicações para o paciente e o clínico e questões de acesso e benefício justos devem ser totalmente abordadas.

Embora exista o risco de uma reação no estilo GM impedir a aplicação adequada da AI nos cuidados de saúde, não devemos desistir da esperança. Como o Comissário da Informação sublinhou recentemente, não precisa ser uma escolha entre privacidade ou inovação.

O exemplo da pesquisa com embriões e a recente aprovação da doação mitocondrial – os chamados “bebês com três filhos” – mostra que o Reino Unido aprendeu com os erros de culturas geneticamente modificadas. As novas tecnologias podem ser introduzidas com a confiança pública, se feito com cuidado, com uma supervisão clara, um quadro regulamentar robusto, um amplo debate sobre as implicações éticas e sociais e, acima de tudo, uma consulta pública significativa.

Devemos seguir a mesma abordagem com a AI, para garantir que, em última análise, seja o paciente que ganha o jogo.

Nicola Perrin é chefe da Understanding Patient Data , uma iniciativa que apóia melhores conversas sobre os usos da informação de saúde e Danil Mikhailov é chefe da estratégia digital em Wellcome .

Click here for more information