A idade do ônibus sem motorista está chegando – e não podemos deixar os desenvolvedores assumirem o controle exclusivo

Com o setor comercial fornecendo a maior parte do estímulo para os avanços na AI, precisamos garantir que os objetivos e valores da sociedade sejam mantidos à vista

É um pouco como ônibus. Você espera que uma nova tecnologia venha e depois três chegam, apresentando uma variedade de viagens e destinos interessantes, cheios de promessas e possibilidades. Com desenvolvimentos rápidos em genômica; em dados e informática; em neurociência; e nas combinações que sua convergência possibilita, é fácil sentir simultaneamente confuso, animado e ansioso. E no centro de tudo e supostamente orquestrando nosso futuro – dirigindo o ônibus sem motorista , você pode dizer – temos inteligência artificial (IA). Movendo-se rapidamente nessa área, o Google DeepMind está com a iniciativa de vários milhões de dólares da AI, mas eles não estão sozinhos: também há grande interesse da academia e investimentos enormes de outras partes da indústria.

Os benefícios potenciais desses desenvolvimentos estão se tornando claros e, em princípio, pelo menos, podemos acolher e trabalhar com eles. É provável que haja aplicações em muitos setores – nas indústrias de serviço e fabricação, em lazer e comunicação, na educação e, é claro, nos cuidados de saúde. Por que não queremos empregar tecnologias inteligentes para obter um diagnóstico e uma avaliação clínica mais rápidos e confiáveis ​​e um tratamento mais individualizado? Mas com o principal estímulo para o desenvolvimento proveniente do setor comercial, uma questão-chave a perguntar é se os objetivos societários serão mantidos à vista.

Na verdade, há uma série de questões aqui que gostaríamos de pensar. Aderindo ao setor de saúde, devemos considerar, por exemplo, as implicações da tomada de decisão baseada em AI para o consentimento informado onde os algoritmos são obscuros, ou para a forma como vemos responsabilidades para decisões e resultados quando as máquinas estiveram envolvidas. E o que isso pode significar para o relacionamento paciente / profissional quando sabemos que o médico também pode estar no escuro ou não estar envolvido, fazer um diagnóstico ou emitir uma receita médica. Enquanto um robô que realiza uma cirurgia pode parecer alarmante, se eles se tornam melhores do que os cirurgiões, isso não é bom?

Podemos querer pensar se o uso de dados em sistemas informáticos inteligentes funciona de maneiras em que nos sentimos confortáveis, de forma a proteger adequadamente nossa privacidade ou, pelo menos, combinar as amplas expectativas da sociedade. O trabalho da DeepMind com o Royal Free, no qual os dados do NHS foram usados, enfrentou dificuldades por essa razão – não era como esperávamos que nossos dados de saúde fossem usados ​​no NHS. Para obter apoio público, o desenvolvimento de tecnologias baseadas em dados e AI precisará ser orientado para os valores públicos, que incluirão questões de privacidade, mas também de justiça, justiça e acesso equitativo aos benefícios.

Aqueles que estão desenvolvendo e esperando implementar tais sistemas terão que trabalhar com uma ampla gama de pessoas para entender melhor as prioridades da sociedade; Que normas e expectativas condicionam nossa aceitação e suporte; e o que atravessaria a linha para a exploração, abuso ou simplesmente comercialização injusta. Portanto, estes não são apenas problemas de tecnologia. As maneiras pelas quais os desenvolvimentos tecnológicos abordam essas questões significarão que considerações como a privacidade, a solidariedade, a justiça e a transparência precisarão ser integradas nos sistemas mais amplos, de modo que o meio ambiente seja capaz de demonstrar explicitamente inclusividade, abertura, boa governança e oportunidades de reparação onde os interesses são prejudicados.

Esta discussão não é inteiramente nova, é claro. Elon Musk, desconhecido por ter medo do desenvolvimento da tecnologia, tem expressado suas ansiedades sobre a AI e a necessidade de governança e regulação por um bom tempo. E o Comitê de Ciência e Tecnologia do Commons publicou um relatório sobre robótica e IA há pouco mais de um ano. Propôs “estabelecer uma comissão permanente sobre inteligência artificial … para examinar as implicações sociais, éticas e legais dos desenvolvimentos recentes e potenciais na AI. Deve se concentrar no estabelecimento de princípios para governar o desenvolvimento e aplicação de técnicas de AI, além de aconselhar o governo sobre qualquer regulamento exigido nos limites da sua progressão “.

Há muito trabalho ainda a ser feito para entregar essas tecnologias em áreas como cuidados de saúde, mas as bases estão sendo preparadas e devemos ter cuidado para não ficar preso a caminhos que são estabelecidos por razões tecnológicas ou puramente econômicas, em vez de como formas de satisfazer as necessidades da sociedade. É por esta razão que a governança responsiva precisa ser desenvolvida de mãos dadas com a tecnologia e que o debate público deve ser perseguido com igual urgência e ainda maior prioridade.

O ônibus está vindo. Vamos entrar a bordo, mas vamos nos encarregar de onde está indo.

Hugh Whittall é diretor do Nuffield Council on Bioethics

Click here for more information