2. Soluções para lidar com os impactos negativos previstos da IA

Vários participantes dessa campanha ofereceram soluções para o preocupante futuro potencial gerado pela IA. Entre eles: 1) melhorar a colaboração além-fronteiras e grupos de partes interessadas; 2) desenvolver políticas para garantir que o desenvolvimento da IA ​​seja direcionado ao aumento dos seres humanos e do bem comum; e 3) mudar as prioridades dos sistemas econômicos, políticos e educacionais para capacitar os indivíduos a permanecerem à frente na 'corrida com os robôs'.

Vários entrevistados esboçaram as aspirações gerais:

Andrew Wycoff, o diretor da diretoria de ciência, tecnologia e inovação da OCDE, eKarine Perset,um economista da divisão de política de economia digital da OCDE, comentou:'Doze anos a partir de agora, nos beneficiaremos de uma precisão e eficiência radicalmente aprimoradas de decisões e previsões em todos os setores. Os sistemas de aprendizado de máquina apoiarão ativamente os humanos durante o trabalho e a diversão. Este suporte será invisível, mas penetrante - como eletricidade. À medida que aumenta a capacidade das máquinas de sentir, aprender, interagir naturalmente e agir de forma autônoma, elas irão confundir a distinção entre o mundo físico e o digital. Os sistemas de IA se interconectam e trabalham juntos para prever e se adaptar às nossas necessidades e emoções humanas. O crescente consenso de que a IA deve beneficiar a sociedade em geral leva a apelos para facilitar a adoção de sistemas de IA para promover a inovação e o crescimento, ajudar a enfrentar os desafios globais e impulsionar o desenvolvimento de empregos e habilidades, ao mesmo tempo que estabelece salvaguardas adequadas para garantir estes os sistemas são transparentes e explicáveis ​​e respeitam os direitos humanos, democracia, cultura, não discriminação, privacidade e controle, segurança e proteção. Dada a natureza inerentemente global de nossas redes e aplicativos que são executados em todos eles, precisamos melhorar a colaboração entre países e grupos de partes interessadas para avançar em direção a um entendimento comum e abordagens coerentes para as principais oportunidades e questões apresentadas pela IA. Isso não é muito diferente da discussão do pós-guerra sobre energia nuclear. Devemos também caminhar com cuidado em direção à Inteligência Artificial Geral e evitar suposições atuais sobre os limites superiores das futuras capacidades de IA ”.

Wendy Hall, professor de ciência da computação na Universidade de Southampton e diretor executivo do Web Science Institute, disse: 'Em 2030, acredito que a colaboração homem-máquina / IA dará poder aos seres humanos em geral. Muitos empregos terão desaparecido, mas muitos novos empregos terão sido criados e as máquinas / IA devem estar nos ajudando a fazer as coisas de forma mais eficaz e eficiente em casa e no trabalho. É um ato de fé pensar que em 2030 teremos aprendido a construir IA de uma forma responsável e teremos aprendido como regular as indústrias de IA e robótica de uma forma que seja boa para a humanidade. Podemos não ter todas as respostas até 2030, mas precisamos estar no caminho certo até lá '.

Eu acredito na colaboração homem-máquina / IA, mas o desafio é se os humanos podem adaptar nossas práticas a essas novas oportunidades. Ian O’Byrne

Ian O’Byrne, um professor assistente com foco em alfabetização e tecnologia no College of Charleston, disse: 'Eu acredito na colaboração homem-máquina / IA, mas o desafio é se os humanos podem adaptar nossas práticas a essas novas oportunidades'.



Arthur Bushkin, um pioneiro de TI que trabalhou com os precursores da Rede de Agências de Projetos de Pesquisa Avançada (ARPANET) e Verizon, escreveu: 'O principal problema será a capacidade coletiva da sociedade de compreender, gerenciar e responder às implicações e consequências da tecnologia'.

Daniel Obam, consultor de política de tecnologia de informação e comunicação, respondeu: 'À medida que desenvolvemos IA, a questão do comportamento ético é primordial. A IA permitirá que as autoridades analisem e aloquem recursos onde houver maior necessidade. A IA também mudará a forma como trabalhamos e viajamos ... Assistentes digitais que exploram e analisam dados ajudarão os profissionais a tomar decisões concisas em saúde, manufatura e agricultura, entre outros. Dispositivos inteligentes e realidade virtual permitirão aos humanos interagir e aprender com questões históricas ou científicas de uma maneira mais clara. Usando IA, as autoridades serão capazes de prevenir o crime antes que aconteça. A cibersegurança precisa estar na vanguarda para evitar que indivíduos inescrupulosos usem a IA para perpetrar danos ou maldades à raça humana '.

Ryan Sweeney, diretor de análises da Ignite Social Media, comentou: 'Nossa tecnologia continua a evoluir em um ritmo crescente, mas nossa sociedade, cultura e economia não são tão rápidas para se adaptar. Teremos que ter cuidado para que os benefícios da IA ​​para alguns não dividam ainda mais aqueles que podem não ser capazes de pagar pela tecnologia. O que isso significará para nossa cultura à medida que mais empregos forem automatizados? Teremos de considerar o impacto na divisão atual de classes '.

Susan Mernit, diretor executivo do The Crucible e cofundador e membro do conselho da Hack the Hood, respondeu: 'Se a IA está nas mãos de pessoas que não se preocupam com a equidade e inclusão, será mais uma ferramenta para maximizar o lucro para alguns '.

As próximas três seções deste relatório enfocam as soluções mais freqüentemente mencionadas pelos entrevistados para esta campanha.

Melhorar a colaboração humana além das fronteiras e grupos de partes interessadas

Vários desses especialistas disseram que devem ser encontradas formas para que as pessoas em todo o mundo cheguem a um entendimento comum das preocupações em evolução sobre a IA e a vida digital e cheguem a um acordo a fim de criar abordagens coesas para enfrentar os desafios da IA.

Danil Mikhailov, chefe de dados e inovação da Wellcome Trust, respondeu: 'Vejo um futuro positivo da interação humano / IA em 2030. Na minha área, saúde, há um potencial tremendo na confluência de avanços em análise de big data e genômica para criação personalizada medicina e melhorar o diagnóstico, tratamento e investigação. Embora eu seja otimista quanto à capacidade humana de adaptação, aprendizado e evolução, a inovação tecnológica nem sempre ocorrerá sem problemas. Nisto podemos aprender com as revoluções tecnológicas anteriores. Por exemplo, (economista-chefe do Banco da Inglaterra) Andy Haldane corretamente apontou que os 'luditas' originais do século 19 tinham uma reclamação justificada. Eles sofreram severas perdas de empregos e levou apenas uma geração para que empregos suficientes fossem criados para superar os perdidos. É um lembrete de que a introdução de novas tecnologias beneficia as pessoas de forma assimétrica, com alguns sofrendo enquanto outros se beneficiam. Para perceber as oportunidades do futuro, precisamos reconhecer isso e preparar redes de segurança suficientes, como iniciativas de educação de adultos bem financiadas, para citar um exemplo. Também é importante ter um diálogo honesto entre os especialistas, a mídia e o público sobre o uso de nossos dados pessoais para projetos de bem-estar social, como cuidados de saúde, assumindo tanto os riscos de agir - como os efeitos na privacidade - quanto os custos de oportunidade de não agir. É um fato que atualmente vidas são perdidas em sistemas de saúde em todo o mundo que poderiam ser salvas mesmo com a tecnologia de hoje, muito menos a de 2030 '.

Edson Prestes, professor e diretor de robótica da Universidade Federal do Rio Grande do Sul, respondeu: 'Devemos entender que todos os domínios (tecnológicos ou não) têm dois lados: um bom e um ruim. Para evitar o mal, precisamos criar e promover a cultura da IA ​​/ Robótica para o bem. Precisamos estimular as pessoas a ter empatia pelos outros. Precisamos pensar sobre os problemas em potencial, mesmo que tenham pequena probabilidade de acontecer. Precisamos ser futuristas, prevendo eventos negativos em potencial e como contorná-los antes que aconteçam. Precisamos criar regulamentos / leis (em nível nacional e internacional) para lidar com situações globalmente prejudiciais para os seres humanos, outros seres vivos e o meio ambiente. Aplicando empatia, devemos pensar seriamente em nós mesmos e nos outros - se a tecnologia será útil para nós e para os outros e se não causará nenhum dano. Não podemos desenvolver soluções sem considerar as pessoas e o ecossistema como o componente central do desenvolvimento. Se for assim, a difusão da IA ​​/ robótica no futuro diminuirá qualquer impacto negativo e criará uma enorme sinergia entre as pessoas e o meio ambiente, melhorando a vida diária das pessoas em todos os domínios, ao mesmo tempo que atinge a sustentabilidade ambiental '.

Adam Nelson, um desenvolvedor de software para uma das 'cinco grandes' empresas globais de tecnologia, disse: 'A colaboração homem-máquina / IA será extremamente poderosa, mas os humanos ainda controlarão a intenção. Se a governança humana não for melhorada, a IA apenas tornará o mundo mais eficiente. Mas os objetivos não serão o bem-estar humano. Eles serão agregação de riqueza para aqueles no poder '.

Wendy Seltzer, líder de estratégia e advogado do World Wide Web Consortium, comentou: 'Estou ligeiramente otimista de que teremos criado melhores mecanismos de governança tecno-social. de forma que, se a IA não melhorar a vida dos humanos, restringiremos seu uso '.

Jen Myronuk, um entrevistado que não forneceu detalhes de identificação, disse: 'A visão do otimista inclui o estabelecimento e implementação de um novo tipo de padrão ISO - ‘direitos humanos codificados’ - como um conjunto de dados funcionais ao lado de tecnologias exponenciais e avançadas. Os direitos humanos globais e a tecnologia humano-máquina / IA podem e devem ser escalonados juntos. Se aplicada como uma extensão da experiência humana, a colaboração homem-máquina / IA revolucionará nossa compreensão do mundo ao nosso redor '.

Fiona Kerr, professor da indústria de complexidade neural e de sistemas da Universidade de Adelaide, comentou: 'A resposta depende muito do que decidirmos fazer em relação às grandes questões em torno de garantir a igualdade de melhoria da saúde global; concordando sobre como a produtividade e o valor agora se parecem, parcialmente apoiados pelo salário global; por meio da redistribuição justa dos lucros da tecnologia para investir no capital social nacional e internacional; por meio de uma discussão robusta sobre o papel da política em recompensar tecnólogos e empresas para construir parcerias de qualidade entre humanos e IA; através do crescimento da compreensão dos resultados neurofisiológicos da interação humano-humano e humano-tecnológica que nos permite decidir melhor o que não usar tecnologias, quando um ser humano é mais eficaz e como garantir que maximizamos as maravilhas da tecnologia como um facilitador de um futuro centrado no ser humano '.

Benjamin Kuipers, um professor de ciência da computação da Universidade de Michigan, escreveu: 'Enfrentamos várias escolhas críticas entre futuros positivos e negativos. (…) O avanço da tecnologia fornecerá muito mais recursos; a decisão principal é se esses recursos serão aplicados para o bem da humanidade como um todo ou se serão cada vez mais mantidos por uma pequena elite. O avanço da tecnologia aumentará enormemente as oportunidades de comunicação e vigilância. A questão é se encontraremos maneiras de aumentar a confiança e as possibilidades de cooperação produtiva entre as pessoas ou se os indivíduos que lutam pelo poder tentarão dominar diminuindo a confiança e a cooperação. A médio prazo, o aumento da tecnologia fornecerá ferramentas mais poderosas para atores humanos, corporativos ou mesmo robôs na sociedade. Os problemas reais serão sobre como os membros de uma sociedade interagem uns com os outros. Em um cenário positivo, interagiremos com IAs de conversação para muitos propósitos diferentes e mesmo quando a IA pertence a uma corporação, seremos capazes de confiar que ela assume o que em economia é chamado de postura 'fiduciária' em relação a cada um de nós. Ou seja, as informações que fornecemos devem ser usadas principalmente para nosso benefício individual. Embora saibamos, e nos dizem explicitamente, que nossas informações agregadas são valiosas para a corporação, podemos confiar que não serão usadas para nossa manipulação ou desvantagem ”.

Denise Garcia, um professor associado de ciência política e assuntos internacionais na Northeastern University, disse: 'A humanidade se unirá para cooperar'.

Charles Geiger, chefe do secretariado executivo da Cúpula Mundial da Sociedade da Informação da ONU, comentou: 'Enquanto tivermos um sistema democrático e uma imprensa livre, podemos contrabalançar as possíveis ameaças da IA'.

Warren Yoder, diretor de longa data do Centro de Políticas Públicas do Mississippi, agora um instrutor no Mississippi College, respondeu com otimismo, 'Colaborações Humanas / IA irão ... aumentar nossas habilidades humanas e aumentar o bem-estar material da humanidade. Ao mesmo tempo, o aumento concomitante dos níveis de educação e saúde nos permitirá desenvolver novas filosofias sociais e reformular nossa política para transformar o bem-estar humano. A IA aumenta a ruptura da velha ordem social, tornando a nova transformação necessária e mais provável, embora não garantida ”.

Wangari Kabiru, autor do blog MitandaoAfrika, com sede em Nairóbi, Quênia, comentou: 'Em 2030, o avanço da IA ​​e da tecnologia não deixará a maioria das pessoas em melhor situação do que hoje, porque nossa missão digital global não é forte o suficiente e não tem princípios o suficiente para garantir que 'não, ninguém é deixado para trás' - talvez intencionalmente. O imenso potencial de impacto positivo para permitir que as pessoas alcancem mais em quase todas as áreas da vida - todos os benefícios da colaboração homem-máquina / IA só podem ser experimentados quando a academia, a sociedade civil e outras instituições são vibrantes, a empresa é valores humanos- e governos e constituições nacionais e acordos globais colocam a humanidade em primeiro lugar ... A engenharia deve servir à humanidade e nunca a humanidade deve servir às façanhas da engenharia. Mais pessoas DEVEM ser criadoras do futuro da VIDA - o futuro de como vivem, o futuro de como trabalham, o futuro de como seus relacionamentos interagem e, de modo geral, como vivenciam a vida. Além da coexistência homem-máquina, isso cria sinergia '.

Um professor especialista em IAconectado a projetos de uma grande empresa de tecnologia global no desenvolvimento de IA, escreveu: 'A democracia de precisão surgirá da educação de precisão, para apoiar gradativamente as melhores decisões que podemos tomar para nosso planeta e nossa espécie. O futuro é sustentar nosso planeta. Tal como acontece com o desenvolvimento atual da saúde de precisão como o caminho dos dados ao bem-estar, a inteligência artificial também melhorará o impacto da colaboração humana e da tomada de decisões na manutenção de nosso planeta. '

Alguns entrevistados argumentaram queindivíduosdevem fazer melhor em assumir um papel mais ativo na compreensão e implementação das opções de tomada de decisão disponíveis para eles nesses sistemas complexos e dependentes de código.

Kristin Jenkins, diretor executivo do BioQUEST Curriculum Consortium, disse: 'Como todas as ferramentas, os benefícios e as armadilhas da IA ​​dependem de como a usamos. Uma preocupação crescente é a coleta e o uso potencial de dados sobre o dia-a-dia das pessoas. ‘Algo’ sempre sabe onde estamos, o layout da casa, o que há na geladeira e quanto dormimos. A conveniência fornecida por essas ferramentas substituirá a cautela sobre a coleta de dados, portanto, uma forte proteção à privacidade deve ser legislada e cultivada culturalmente. Precisamos aprender a ser responsáveis ​​por nossos dados pessoais e estar cientes de quando e como eles são coletados e usados ​​'.

Peng Hwa Ang |, professor de comunicações da Universidade Tecnológica de Nanyang e autor de 'Ordering Chaos: Regulating the Internet', comentou: 'A IA ainda está em sua infância. Muito disso é baseado em regras e não exige verdadeira inteligência ou aprendizado. Mas, mesmo assim, acho útil. Meu carro tem assistência na faixa. Acho que isso me torna um motorista melhor. Quando a IA está mais desenvolvida, tornaria a direção mais segura e rápida. Estou usando IA para alguns trabalhos que estou fazendo sobre análise de sentimento. Acho que sou capaz de ser mais criativo ao fazer perguntas a serem investigadas. Espero que a IA exija uma maior criatividade. No momento, o maior medo da IA ​​é que seja uma operação de caixa preta - sim, os fatores escolhidos são bons, precisos e úteis, mas ninguém sabe por que esses critérios foram escolhidos. Conhecemos as porcentagens dos fatores, mas não sabemos os porquês. Esperançosamente, em 2030, a caixa será mais transparente. Isso está no lado da IA. Do lado humano, espero que os seres humanos entendam que a verdadeira IA cometerá erros. Se não, não é IA real. Isso significa que as pessoas precisam estar prontas para detectar os erros que a IA cometerá. Vai ser muito bom. Mas (ainda) não será à prova de falhas '.

Bert Huang, um professor assistente no departamento de ciência da computação da Virginia Tech focado em aprendizado de máquina, escreveu: 'IA causará danos (e já causou danos), mas seus benefícios superarão os danos que causa. Dito isso, o padrão (histórico) de tecnologia ser positiva depende de pessoas que buscam coisas positivas para fazer com a tecnologia, então os esforços para orientar a pesquisa em direção aos benefícios sociais serão importantes para garantir o melhor futuro '.

Um entrevistado anônimodisse: 'Devemos garantir que os valores (locais ou globais) e as teorias filosóficas básicas sobre a ética informem o desenvolvimento e a implementação de sistemas de IA'.

Desenvolver políticas para garantir que o desenvolvimento da IA ​​seja direcionado ao aprimoramento dos humanos e ao bem comum

Muitos especialistas que compartilharam suas percepções neste estudo sugeriram que deve haver uma mudança geral no desenvolvimento, regulamentação e certificação de sistemas autônomos. Eles geralmente disseram que o objetivo deve ser baseado em valores, inclusivo, descentralizado, redes 'imbuídas de empatia' que ajudem os indivíduos a garantir que a tecnologia atenda às responsabilidades sociais e éticas para o bem comum.

Para que as tecnologias de IA sejam verdadeiramente transformadoras de uma forma positiva, precisamos de um conjunto de normas éticas, padrões e metodologias práticas para garantir que usamos IA com responsabilidade e para o benefício da humanidade. Usan Etlinger

Susan Etlinger, um analista da indústria do Altimeter Group e especialista em dados, análises e estratégia digital, comentou: 'Para que as tecnologias de IA sejam verdadeiramente transformadoras de uma forma positiva, precisamos de um conjunto de normas éticas, padrões e metodologias práticas para garantir que usar IA com responsabilidade e para o benefício da humanidade. As tecnologias de IA têm o potencial de fazer muito bem no mundo: identificar doenças em pessoas e populações, descobrir novos medicamentos e tratamentos, tornar as tarefas diárias como dirigir mais simples e mais seguras, monitorar e distribuir energia com mais eficiência e tantas outras coisas que não temos ainda não imaginei ou pude perceber. E - como qualquer mudança tectônica - a IA cria seu próprio tipo de interrupção. Vimos isso em todas as grandes invenções da imprensa de Gutenberg à invenção do semicondutor. Mas AI édiferente. A replicação de algumas capacidades humanas usando dados e algoritmos tem consequências éticas. Algoritmos não são neutros; eles replicam e reforçam o preconceito e a desinformação. Eles podem ser opacos. E a tecnologia e os meios para usá-los estão nas mãos de algumas organizações selecionadas, pelo menos hoje '.

Bryan Johnson, fundador e CEO da Kernel, um desenvolvedor líder de interfaces neurais avançadas, e OS Fund, uma empresa de capital de risco, disse: 'Poderíamos começar possuindo nossos próprios dados digitais e os dados de nossos corpos, mentes e comportamento, e então seguir corrigindo os incentivos de nossas principais empresas de tecnologia, afastando-os da inovação para a conveniência do dia-a-dia e em direção ao aperfeiçoamento humano radical. Como um exemplo de como a tecnologia poderia ser quando alinhada com o aperfeiçoamento humano radical, as próteses cognitivas um dia darão avisos sobre preconceitos - como os carros de hoje têm sensores que permitem que você saiba quando você adormece ou se você muda de faixa sem um sinalizar - e corrigir vieses cognitivos e alertar um indivíduo para longe de potenciais vieses cognitivos. Isso pode levar a melhores comportamentos na escola, em casa e no trabalho e encorajar as pessoas a tomarem melhores decisões sobre saúde ”.

Marc Rotenberg, diretor executivo do Electronic Privacy Information Center (EPIC), comentou: 'O desafio que enfrentamos com o surgimento da IA ​​é a crescente opacidade dos processos e da tomada de decisões. Ignoraremos os resultados favoráveis. Não compreenderemos os resultados problemáticos. É por isso que o maior desafio à frente para a responsabilidade da IA ​​é a transparência da IA. Devemos garantir que entendemos e podemos replicar os resultados produzidos pelas máquinas. O resultado alternativo não é sustentável '.

John C. Havens, diretor executivo da IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems e do Council on Extended Intelligence, escreveu: 'Embora hoje as pessoas forneçam' consentimento 'para o uso de dados, a maioria das pessoas não entende a profundidade e amplitude de como seus as informações são utilizadas por empresas e governos em geral. Até que cada indivíduo receba uma identidade soberana anexada a uma nuvem de dados pessoais que eles controlam, as informações não serão realmente compartilhadas - apenas rastreadas. Ao utilizar blockchain ou tecnologias semelhantes e adotar ideais progressistas em relação aos cidadãos e seus dados, conforme demonstrado por países como a Estônia, podemos inaugurar uma democracia digital genuína na era do algoritmo. A outra questão subjacente à narrativa de 'aumento da IA ​​humana' raramente discutida são os fundamentos econômicos que impulsionam toda a fabricação de tecnologia. Onde o crescimento exponencial, os modelos de acionistas são priorizados, o bem-estar humano e ambiental diminui. Vários relatórios de pessoas como Joseph Stiglitz apontam que, embora a IA vá aumentar muito o PIB nas próximas décadas, os benefícios desses aumentos favorecerão poucos contra muitos. É apenas com a adoção de ‘Além do PIB’ ou métricas de resultado triplo que ‘pessoas, planeta e lucro’ irão moldar um futuro holístico entre humanos e IA '.

Greg Lloyd, presidente e cofundador da Traction Software, apresentou um cenário futuro: 'Em 2030, os IAs aumentarão o acesso e o uso de todos os recursos pessoais e em rede como agentes altamente qualificados e confiáveis ​​para quase todas as pessoas - humanas ou corporativas. Esses agentes serão obrigados a agir de acordo com novas leis e regulamentos que são elementos fundamentais de sua construção, muito parecido com as 'Três Leis da Robótica' de Isaac Asimov, mas com 'certificações' mais refinadas para classes de atividades que vinculam seu comportamento e responsabilidade por práticas muito semelhantes aos códigos para prática médica, jurídica, contábil e de engenharia. Os agentes certificados terão acesso a recursos pessoais ou corporativos e, dentro desses limites, serão capazes de conversar, tomar orientações, dar conselhos e agir como servidores de confiança, consultores ou advogados. Embora esses agentes 'se sintam' como seres inteligentes e prestativos, eles não terão nenhuma vontade ou consciência verdadeiramente independente e não devem fingir ser seres humanos ou agir de forma contrária às leis e regulamentos que restringem seu comportamento. Pense em Ariel e Prospero '.

Tracey P. Lauriault, professor assistente de mídia crítica e big data na Escola de Jornalismo e Comunicação da Carleton University, comentou: '(E sobre) intervenções regulatórias e políticas para proteger os cidadãos de resultados potencialmente prejudiciais, auditoria de IA, supervisão, transparência e responsabilidade? Sem algum tipo de princípio de uma estrutura baseada em sistemas para garantir que a IA permaneça ética e no interesse público, de forma estável, devo assumir que a IA impedirá a agência e pode levar à tomada de decisões que pode ser prejudicial, tendenciosa , impreciso e incapaz de mudar dinamicamente com a mudança de valores. É preciso haver algum tipo de responsabilidade '.

Joel Colloc, professor da Université du Havre Normandy University e autor de 'Ethics of Autonomous Information Systems', comentou: 'Quando a IA apoia as decisões humanas como um sistema de apoio à decisão, pode ajudar a humanidade a melhorar a vida, a saúde e o bem-estar e fornecer melhorias para a humanidade . Veja os princípios de Marcus Flavius ​​Quintilianus: Quem está fazendo o quê, com o quê, por quê, como, quando, onde? IA autônoma é o poder que pode ser usado por pessoas poderosas para controlar as pessoas, colocá-las na escravidão. Aplicando os princípios Quintilianos ao papel da IA ​​... devemos propor um código de ética da IA ​​para avaliar que cada tipo de aplicação é orientada para o bem-estar do usuário: 1) não prejudica o usuário, 2) benefícios vão para o usuário, 3) não faça uso indevido de sua liberdade, identidade e dados pessoais, e 4) julgue abusivas quaisquer cláusulas que alienem a independência do usuário ou enfraqueçam seus direitos de controle sobre a privacidade no uso do aplicativo. A soberania do usuário do sistema deve permanecer total '.

Joseph Turow, professor de comunicação da Universidade da Pensilvânia, escreveu: 'Se a IA melhorará ou não a sociedade até 2030, dependerá das estruturas que governam as sociedades da época. Sociedades amplamente democráticas com ênfase nos direitos humanos podem encorajar regulamentações que impulsionem a IA em direções que ajudem todos os setores da nação. As sociedades autoritárias, ao contrário, definirão agendas para a IA que dividirão ainda mais a elite do resto e usarão a tecnologia para cultivar e reforçar as divisões. Vemos ambas as tendências hoje; o distópico tem a vantagem, especialmente em lugares com as maiores populações. É fundamental que as pessoas que se preocupam com as gerações futuras falem quando surgirem tendências autoritárias de IA '.

Henry E. Brady, reitor da Escola Goldman de Políticas Públicas da Universidade da Califórnia, Berkeley, escreveu: 'Acredito que respostas políticas podem ser desenvolvidas para reduzir preconceitos e encontrar uma maneira de acomodar IA e robótica com vidas humanas'.

Jennifer King, diretor de privacidade do Centro para Internet e Sociedade da Escola de Direito de Stanford, disse: 'A menos que vejamos um esforço real para capturar o poder da IA ​​para o bem público, não vejo um benefício público abrangente até 2030. A mudança da pesquisa de IA para o setor privado significa que a IA será desenvolvida para promover o consumo, em vez de ampliar o conhecimento e o benefício público ”.

Gary Kreps, distinto professor de comunicação e diretor do Center for Health and Risk Communication da George Mason University, escreveu: 'O tremendo potencial da IA ​​a ser usado para envolver e adaptar o conteúdo de informação e serviços de computador para usuários individuais pode tornar a computação cada vez mais útil, envolvente e relevante. No entanto, para atingir esses resultados, a IA precisa ser programada com o usuário em mente. Por exemplo, os serviços de IA devem ser orientados pelo usuário, adaptáveis ​​a usuários individuais, fáceis de usar, entender e controlar. Esses sistemas de IA precisam ser programados para se adaptar às solicitações individuais do usuário, aprendendo sobre as necessidades e preferências do usuário.

Thomas Streeter, um professor de sociologia da Universidade de Vermont, disse: 'A tecnologia não vai determinar se as coisas estão melhores ou piores em 2030; as escolhas sociais e políticas vão ”.

Paul Werbos, um ex-diretor de programa da National Science Foundation que primeiro descreveu o processo de treinamento de redes neurais artificiais por meio da retropropagação de erros em 1974, disse: 'Estamos em um momento de escolha. O resultado vai depender muito das decisões de pessoas muito poderosas que não começam a saber as consequências das alternativas que enfrentam, ou mesmo quais são as alternativas substantivas ”.

Divina Frau-Meigs, professor de sociologia da mídia na Universidade de Paris III: Sorbonne Nouvelle e cadeira da UNESCO para o desenvolvimento digital sustentável, respondeu: 'Quanto mais cedo a ética da IA ​​estiver alinhada com os princípios dos direitos humanos, melhor'.

Juan Ortiz Freuler, um membro da política da World Wide Web Foundation, escreveu 'Acreditamos que a tecnologia pode e deve capacitar as pessoas. Se 'o povo' continuará a ter uma palavra significativa sobre como a sociedade é administrada, o estado precisa aumentar suas capacidades técnicas para garantir a supervisão adequada dessas empresas. A tecnologia em geral e a IA em particular promoverão o avanço da humanidade em todas as áreas, permitindo que os processos sejam escalonados com eficiência, reduzindo os custos e disponibilizando mais serviços para mais pessoas (incluindo cuidados de saúde de qualidade, mobilidade, educação, etc.). A questão em aberto é como essas mudanças afetarão a dinâmica do poder. Para operar de forma eficaz, a IA requer um amplo conjunto de componentes de infraestrutura, que não são igualmente distribuídos. Isso inclui data centers, poder de computação e big data. O que é mais preocupante é que há razões para esperar mais concentração. Por um lado, os dados são bem dimensionados: os custos iniciais (fixos) de configuração de um datacenter são grandes em comparação com o custo de mantê-lo funcionando. Portanto, o custo de hospedagem de cada dado extra é ligeiramente menor do que o anterior. Os dados são o combustível da IA ​​e, portanto, quem quer que tenha acesso a mais dados pode desenvolver uma IA mais eficaz. Por outro lado, a IA cria ganhos de eficiência ao permitir que as empresas automatizem mais processos, o que significa que quem quer que saia na frente pode prejudicar os concorrentes. Este círculo alimenta a concentração. À medida que mais nossas vidas são gerenciadas pela tecnologia, há o risco de quem controla essas tecnologias receba muito poder. Os benefícios em termos de qualidade de vida e os riscos para a autonomia das pessoas e o controle sobre a política são qualitativamente diferentes e não pode (e não deve) haver compensações ”.

Meryl Alper, professor assistente de comunicação da Northeastern University e docente associado do Berkman Klein Center for Internet and Society da Harvard University, escreveu: 'Meu medo é que ferramentas de IA sejam usadas por uns poucos poderosos para centralizar ainda mais os recursos e marginalizar as pessoas. Essas ferramentas, assim como a própria internet, permitirão que as pessoas façam isso de forma cada vez mais barata, rápida, abrangente e facilmente replicável, com impactos negativos exponencialmente no meio ambiente. Prevenir isso em suas piores manifestações exigirá regulamentação da indústria global por funcionários do governo com experiência prática no trabalho com ferramentas de IA nos níveis federal, estadual e local, e auditorias transparentes de ferramentas de IA do governo por grupos de base de diversos (em todos os sentidos de o termo) partes interessadas '.

David Wilkins, instrutor de ciência da computação na Universidade de Oregon, respondeu: 'A IA deve ser capaz de explicar a base de suas decisões'.

Um importante diretor de pesquisa e membro técnico em uma grande empresa global de tecnologiadisse: 'Há uma grande oportunidade de melhorar a vida das pessoas por meio de tecnologias de IA. Os usos positivos da IA ​​prevalecerão, pois serão selecionados por seu valor para as pessoas. Confio no trabalho da indústria, da academia e da sociedade civil para continuar a desempenhar um papel importante na moderação da tecnologia, por exemplo, buscando entendimentos sobre as possíveis influências pessoais, sociais e sociais dispendiosas da IA. Confio particularmente na orientação proveniente do Estudo de Cem Anos em andamento, de longo prazo, sobre IA e nos esforços da Partnership on IA '.

Peter Stone, professor de ciência da computação da Universidade do Texas em Austin e presidente do primeiro painel de estudo do One Hundred Year Study on Artificial Intelligence (AI100), respondeu: 'Conforme narrado em detalhes no relatório AI100, acredito que haja ambos oportunidades significativas e desafios / riscos significativos quando se trata de incorporar tecnologias de IA em vários aspectos da vida cotidiana. Com políticas específicas do setor cuidadosamente elaboradas e uso responsável, acredito que os benefícios potenciais superam os riscos. Mas os riscos não devem ser assumidos levianamente '.

Anita Salem, diretor de pesquisa e design de sistemas da SalemSystems, alertou sobre um possível resultado distópico, 'A interação homem-máquina resultará em aumento da precisão e diminuição da relevância humana, a menos que esforços específicos sejam feitos para projetar em' humanidade '. Por exemplo, IA no campo médico ajudará a um diagnóstico mais preciso, aumentará a precisão cirúrgica e aumentará as análises baseadas em evidências. Se projetados corretamente, esses sistemas permitirão que os humanos façam o que fazem de melhor - fornecer empatia, usar a intuição baseada na experiência e utilizar o toque e a conexão como fonte de cura. Se as necessidades humanas forem deixadas de fora do processo de design, veremos um mundo onde os humanos são cada vez mais irrelevantes e mais facilmente manipulados. Pudemos observar o aumento do subemprego, levando a maiores diferenças salariais, maior pobreza e falta de moradia, e crescente alienação política. Veremos menos oportunidades de trabalho significativo, o que resultará no aumento dos problemas de drogas e saúde mental e na erosão ainda maior do sistema de apoio familiar. Sem esforços explícitos para humanizar o design de IA, veremos uma população necessária para comprar, mas não para criar. Essa população precisará ser controlada e a IA fornecerá os meios para esse controle: aplicação da lei por drones, manipulação de opinião por bots, homogeneidade cultural por meio de mensagens sincronizadas, sistemas eleitorais otimizados a partir de big data e um sistema geopolítico dominado por corporações que se beneficiaram de aumentar a eficiência e reduzir os custos operacionais ”.

À medida que se torna mais difícil para os humanos entender como funciona a IA / tecnologia, fica mais difícil resolver problemas inevitáveis. Chris Newman

Chris Newman, engenheiro principal da Oracle, comentou: 'À medida que se torna mais difícil para os humanos entender como a IA / tecnologia funciona, fica mais difícil resolver problemas inevitáveis. Um resultado melhor é possível com um forte impulso de engenheiros e consumidores em direção à elegância e simplicidade (por exemplo, a Apple da era Steve Jobs).

Um cientista pesquisador baseado na América do Norteescreveu: 'As rodas da legislação, que é um mecanismo primário para garantir que os benefícios sejam distribuídos por toda a sociedade, movem-se lentamente. Embora os benefícios de IA / automação acumulem muito rapidamente para 1%, levará mais tempo para o resto da população sentir quaisquer benefícios, e isso SOMENTE se nossos líderes representativos deliberarem DELIBERADAMENTE política social e fiscal FORTE. Por exemplo, a IA economizará bilhões em custos trabalhistas - e também reduzirá o poder de barganha do trabalho nas negociações com o capital. Qualquer empresa que use tecnologias de IA deve ser fortemente tributada, com esse dinheiro indo para fortes programas de bem-estar social, como reciclagem profissional e programas federais de empregos. Por exemplo, qualquer pesquisa de IA com financiamento público deve ser impedida de ser privatizada. O público deveria ver a recompensa de seus próprios investimentos. Não deixe que a IA siga o padrão de exploração da Big Pharma do Bayh-Dole Act permitido pelo público.

Ken Birman, um professor do departamento de ciência da computação da Universidade Cornell, respondeu: 'Em 2030, acredito que nossas casas e escritórios terão evoluído para oferecer suporte a funcionalidades semelhantes a aplicativos, como o iPhone no meu bolso. As pessoas irão personalizar seus espaços de vida e de trabalho, e diferentes suítes de aplicativos darão suporte a diferentes estilos de vida ou necessidades especiais. Por exemplo, pense em um jovem casal com filhos, um grupo de alunos compartilhando uma casa ou um idoso um pouco frágil. Cada um precisaria de diferentes formas de apoio. Essa perspectiva de 'aplicativos' é ampla e muito flexível. Mas também precisamos garantir que a privacidade e a segurança sejam fortemente protegidas pelo ambiente futuro. Quero meus dispositivos e aplicativos vinculados em meu nome, mas nunca quero ser continuamente espionado. Acho que isso é viável e, à medida que ocorrer, nos beneficiaremos de inúmeras maneiras '.

Martin Geddes, consultor especializado em estratégias de telecomunicações, disse: 'O impacto inesperado da IA ​​será automatizar muitas de nossas interações com sistemas onde damos consentimento e permitir que uma gama mais ampla de resultados seja negociada sem nosso envolvimento. Isso requer uma nova camada de apresentação para o metaverso de realidade aumentada, com um novo 'navegador' - o Guardian Avatar - que ajuda a proteger nossa identidade e nossos interesses '.

Lindsey Andersen, um ativista na interseção de direitos humanos e tecnologia para Freedom House e Internews, agora fazendo pesquisa de graduação na Universidade de Princeton, comentou: 'Já existe uma dependência excessiva da IA ​​para tomar decisões importantes que afetam a vida das pessoas. Corremos para usar a IA para decidir tudo, desde o conteúdo que vemos nas redes sociais até a atribuição de pontuações de crédito e a determinação da duração da pena que um réu deve cumprir. Embora muitas vezes bem intencionados, esses usos da IA ​​estão repletos de questões éticas e de direitos humanos, desde a perpetuação do preconceito racial até a violação de nossos direitos à privacidade e à liberdade de expressão. Se não lidarmos com esses problemas por meio de regulamentação inteligente, educação do consumidor / comprador e estabelecimento de normas em toda a indústria de IA, poderíamos estar diante de um mundo muito mais injusto, polarizado e controlado em 2030 '.

Yeseul Kim, designer de uma grande empresa de pesquisas sul-coreana, escreveu: 'A prosperidade gerada e os benefícios da IA ​​promoverão a qualidade de vida para a maioria das pessoas apenas quando suas implicações éticas e impactos sociais forem amplamente discutidos e compartilhados dentro da sociedade humana, e somente quando regulamentos e legislação pertinentes podem ser estabelecidos para mitigar a má conduta que pode ser provocada como resultado do avanço da IA. Se essas condições forem atendidas, computadores e máquinas podem processar dados em velocidade sem precedentes e com um nível de precisão incomparável, e isso irá melhorar a qualidade de vida, especialmente nos setores médico e de saúde. Já foi comprovado e amplamente compartilhado entre grupos de especialistas médicos que os médicos têm melhor desempenho na detecção de doenças quando trabalham com IA. A robótica para cirurgia também está progredindo, então isso também irá beneficiar os pacientes, pois eles podem auxiliar cirurgiões humanos que inevitavelmente enfrentam limites físicos quando realizam cirurgias ”.

Mark Maben,um gerente geral da Seton Hall University, escreveu: 'A revolução da IA ​​é, infelizmente, provavelmente distópica. No momento, as instituições governamentais, educacionais, cívicas, religiosas e corporativas estão mal preparadas para lidar com a enorme perturbação econômica e social que será causada pela IA. Não tenho dúvidas de que os avanços na IA aumentarão as capacidades humanas e capacitarão alguns indivíduos, mas isso será mais do que compensado pelo fato de que a inteligência artificial e os avanços tecnológicos associados significarão muito menos empregos no futuro. Mais cedo do que a maioria dos indivíduos e sociedades percebem, a IA e a automação eliminarão a necessidade de trabalhadores do varejo, motoristas de caminhão, advogados, cirurgiões, operários de fábrica e outras profissões. Para garantir que o espírito humano prospere em um mundo controlado e governado pela IA, precisaremos mudar o conceito atual de trabalho. Essa é uma tarefa enorme para um sistema econômico global no qual a maioria dos benefícios sociais e econômicos vêm de manter um emprego tradicional. Já estamos vendo um declínio nas instituições democráticas e um aumento no autoritarismo devido à desigualdade econômica e à natureza mutável do trabalho. Se não começarmos a planejar agora para o dia em que a IA resultará em interrupção total do emprego, a tensão provavelmente resultará em instabilidade política, violência e desespero. Isso pode ser evitado por políticas que atendam às necessidades humanas básicas e incentivem uma nova definição de trabalho, mas o comportamento até hoje de políticos, governos, corporações e elites econômicas me dá pouca confiança em sua capacidade de nos conduzir nessa transição ”.

Eduardo Vendrell, um professor de ciência da computação da Universidade Politécnica de Valência, na Espanha, respondeu: 'Esses avanços terão um impacto perceptível em nossa privacidade, uma vez que a base para esta aplicação está focada na informação que geramos com o uso de diferentes tecnologias.… será necessário regular de forma decisiva o acesso à informação e a sua utilização ».

Yoram Kalman, um professor associado da Open University of Israel e membro do The Center for Internet Research da University of Haifa, escreveu: 'O principal risco é quando as tecnologias de comunicação e análise são usadas para controlar outras pessoas, para manipulá-las ou para tirar vantagem deles. Esses riscos estão sempre presentes e podem ser mitigados por meio da conscientização e educação da sociedade, e por meio de regulamentações que identifiquem entidades que se tornam muito poderosas graças a uma ou mais tecnologias específicas e que usam esse poder para se fortalecer ainda mais. Essas entidades - sejam elas comerciais, políticas, nacionais, militares, religiosas ou qualquer outra - tentaram no passado e tiveram sucesso em alavancar tecnologias contra o bem geral da sociedade, e isso é um risco sempre presente de qualquer inovação poderosa. Esse risco deve nos deixar vigilantes, mas não deve nos impedir de realizar um dos desejos humanos mais básicos: o esforço para melhorar constantemente a condição humana '.

Sam Gregory, diretor da WITNESS e ativista digital de direitos humanos, respondeu: 'Devemos assumir que todos os sistemas de IA para vigilância e controle e manipulação populacional serão usados ​​de forma desproporcional e inadequadamente controlados por governos autoritários e não democráticos. Esses governoseos governos democráticos continuarão a pressionar as plataformas para que usem IA para monitorar o conteúdo, e esse monitoramento, por si só, contribuirá para o conjunto de dados para personalização, vigilância e manipulação. Para lutar contra este futuro sombrio, precisamos obter a combinação certa de atenção à legislação e autogovernança de plataformaagora mesmo, e precisamos pensar sobre a cultura da mídia para entender a mídia sintética gerada por IA e a segmentação. Devemos também ser cautelosos sobre o quanto encorajamos o uso de IA como uma solução para gerenciar conteúdo online e como uma solução para, por exemplo, gerenciar discurso de ódio '.

Jonathan Kolber, futurista, escreveu, 'Meu medo é que, ao gerar IAs que podem aprender novas tarefas mais rápido e mais confiável do que as pessoas podem fazer, a economia do futuro terá apenas oportunidades evanescentes para a maioria das pessoas. Minha esperança é que comecemos a implementar uma renda básica universal sustentável e viável e, em particular, a proposta MUBI de Michael Haines. (Pelo que sei, a única proposta que é sustentável e pode ser implementada em qualquer país a qualquer momento.) Eu fiz uma crítica das alternativas. Dado que as pessoas podem não precisar mais depender de seu poder aquisitivo competitivo em 2030, a IA fortalecerá um mundo muito melhor. Se, no entanto, não conseguirmos implementar uma renda básica universal orientada para o mercado ou algo igualmente eficaz, vastas multidões ficarão desempregadas e sem emprego, sem meios para se sustentar. Essa é uma receita para um desastre social '.

Walid Al-Saqaf, palestrante sênior da Södertörn University, membro do conselho de curadores da Internet Society (ISOC) e vice-presidente do Grupo de Interesses Especiais de Blockchain da ISOC, comentou: 'O desafio é garantir que os dados usados ​​para procedimentos de IA sejam confiáveis. Isso acarreta a necessidade de forte segurança cibernética e integridade de dados. Este último, acredito, pode ser tremendamente aprimorado por tecnologias de razão distribuída, como blockchain. Prevejo resultados geralmente positivos da IA, desde que haja guardas suficientes para proteger da execução automatizada de tarefas em áreas que possam ter considerações éticas, como tomar decisões que podem ter implicações de vida ou morte. AI tem muito potencial. Deve ser usado para adicionar e não substituir o intelecto e julgamento humano '.

Danny O'Brien, diretor internacional de um grupo de direitos digitais sem fins lucrativos, comentou: 'Em geral, estou otimista sobre a capacidade dos humanos de direcionar a tecnologia para o benefício de si próprios e de outros. Eu prevejo que a colaboração homem-máquina ocorrerá em um nível individual, com ferramentas e habilidades que aprimoram nosso próprio julgamento e ações, ao invés de ser um poder restrito a alguns atores. Assim, por exemplo, se usarmos ferramentas de reconhecimento facial ou preditivas, ele estará sob o controle de um usuário final, transparente e limitado ao uso pessoal. Isso pode exigir regulamentação, restrições de codificação interna ou um equilíbrio entre as capacidades do usuário. Mas estou esperançoso de que possamos chegar lá '.

Fernando Barrio, diretor do programa de direito da Universidade Nacional de Río Negro na Argentina, comentou: 'A interação entre humanos e IA em rede pode levar a um futuro melhor para uma grande porcentagem da população. Para fazer isso, os esforços devem ser direcionados não apenas para o aumento do desenvolvimento e das capacidades da IA, mas também para políticas positivas para aumentar a disponibilidade e inclusão dessas tecnologias. O desafio não é técnico; é sociopolítico ”.

Paul Jones, professor de ciência da informação da Universidade da Carolina do Norte em Chapel Hill, respondeu: 'A IA como a conhecemos em 2018 está apenas começando a se entender. Como HAL, terá amadurecido até 2030 em uma compreensão de seu eu pós-adolescente e de sua relação com os humanos e o mundo. Mas, também, os humanos terão amadurecido em nosso relacionamento com a IA. Como em todos os relacionamentos entre adolescentes, houve riscos, arrependimentos e, com sorte, reconciliação. A linguagem foi nosso primeiro elo com outras inteligências, depois com os livros, depois com a internet - cada uma com uma conversa mais íntima do que a anterior. AI se tornará nosso elo, conselheiro e, até certo ponto, nosso sábio e amoroso companheiro '.

Jean-Claude Heudin, um professor com experiência em IA e engenharia de software no De Vinci Research Center da Pole Universitaire Leonard de Vinci, na França, escreveu: 'Inteligência natural e inteligência artificial são complementares. Precisamos de toda a inteligência possível para resolver os problemas que ainda estão por vir. Mais inteligência é sempre melhor '.

Bryan Alexander, futurista e presidente da Bryan Alexander Consulting, respondeu: 'Espero que estruturemos a IA para aprimorar nossa criatividade, impulsionar nosso aprendizado, expandir nossos relacionamentos em todo o mundo, nos tornar fisicamente mais seguros e eliminar alguns trabalhos enfadonhos'.

Mas alguns temem que a definição da política possa causar algum dano.

Scott Burleigh, engenheiro de software e pioneiro da Internet intergaláctica, escreveu: 'Os avanços na tecnologia em si, incluindo IA, sempre aumentam nossa capacidade de mudar as circunstâncias da realidade de maneiras que melhoram nossas vidas. Também sempre apresenta possíveis efeitos colaterais que podem nos deixar pior do que estávamos antes. Esses efeitos são percebidos quando as políticas que planejamos para usar as novas tecnologias são imprudentes. Eu não me preocupo com tecnologia; Eu me preocupo com a política estúpida. Eu me preocupo muito com isso, mas sou cautelosamente otimista; na maioria dos casos, acho que acabamos com políticas toleráveis ​​”.

O que mais me preocupa é a preocupação em si: um pânico moral emergente que cortará os benefícios dessa tecnologia por medo do que poderia ser feito com ela. Jeff Jarvis

Jeff Jarvis, diretor do Centro Tow-Knight da Escola de Jornalismo Craig Newmark da City University de Nova York, comentou: 'O que mais me preocupa é a preocupação em si: um pânico moral emergente que cortará os benefícios desta tecnologia por medo do que poderia ser feito com isso. O que mais temo é um esforço para controlar não apenas a tecnologia e os dados, mas o próprio conhecimento, prescrevendo quais informações podem ser usadas antes de sabermos quais seriam esses usos. Eu poderia substituir 'livro' por 'AI' e o ano de 1485 (ou talvez 1550) por 2030 em sua pergunta e seria bastante verdadeiro. Alguns pensaram que seria bom, outros ruim; ambos acabam dando certo. Nós vamos descobrir isso. Sempre temos. Claro, depois do livro houve guerras e outros distúrbios profundos. Mas, no final, os humanos descobrem como explorar as tecnologias em seu benefício e controlá-las para sua segurança. Eu chamaria isso de lei da sociedade. O mesmo acontecerá com a IA. Alguns vão abusar dele, é claro, e esse é o momento de identificar limites para colocar em seu uso - não especulativamente antes. Muitos mais o usarão para obter benefícios econômicos, sociais, educacionais e culturais e precisamos dar-lhes liberdade para fazê-lo ”.

Alguns entrevistados disseram que não importa como a sociedade se reúna para solucionar problemas de IA, ainda haverá problemas.

Dave Gusto, professor de ciência política e codiretor do Consortium for Science, Policy & Outcomes da Arizona State University, disse: 'A pergunta feita sobre' a maioria das pessoas '. A maioria das pessoas no mundo vive uma vida que não é bem vista pela tecnologia , desenvolvedores de tecnologia e IA. Não vejo isso mudando muito nos próximos doze anos.

PARA profissional de longa data do Vale do Silícioque trabalhou em várias das principais empresas de tecnologia nas últimas décadas respondeu: 'IA continuará a melhorar * se * a contribuição humana de qualidade estiver por trás disso. Nesse caso, uma IA melhor apoiará as indústrias de serviços no topo do funil, deixando os humanos para lidar com a interpretação, as decisões e o conhecimento aplicado. A coleta de dados médicos para diagnósticos anteriores vem à mente. Processos mais inteligentes de busca de empregos, coleta de dados ambientais para ações de mudança climática - todas essas aplicações vêm à mente '.

Hari Shanker Sharma, um especialista em nanotecnologia e neurobiologia da Universidade de Uppsala, na Suécia, disse: 'A IA ainda não atingiu o pico, portanto, o crescimento continuará, mas o mal também usa esses desenvolvimentos. Isso trará perigos maiores para a humanidade. A necessidade será equilibrar o crescimento com a segurança, por exemplo, a mídia social é boa e ruim. As maneiras de se proteger dos malfeitores não são suficientes. Rastrear um invasor / traficante do mal em uma aldeia global para controlar e punir é a necessidade. A IA dará à luz um ser humano artificial que pode ser um anjo ou um demônio. Plano para combater o mal em cada estágio de desenvolvimento '.

Um agente de mudanças trabalhando para acessibilidade digitalescreveu: 'Não há razão para supor que alguma força indefinida será capaz de corrigir ou amenizar os danos da natureza humana amplificados com tecnologias de centralização de poder. Não há indicação de que os governos serão capazes de contrabalançar as tendências de centralização de poder, pois os governos também tiram proveito dessas falhas de mercado. A aparência externa de tais interações é provavelmente o aspecto menos importante disso '.

Um futurista da ciência da informaçãocomentou: 'Temo que poderosos interesses comerciais continuem a colocar os lucros acima de tudo, fechando os olhos para os efeitos de segunda e terceira ordem de suas decisões. Receio que não tenhamos vontade política para proteger e promover os interesses comuns dos cidadãos e a democracia. Temo que nossas ferramentas tecnológicas estejam avançando mais rapidamente do que nossa capacidade de gerenciá-las com sabedoria. No entanto, recentemente descobri novas vagas de emprego com títulos como ‘Diretor de Pesquisa, Política e Ética em IA’ e ‘Arquiteto, Prática Ética de IA’ em grandes empresas de software. Existem razões para ter esperança '.

As seguintes frases de respostas anônimas também estão relacionadas a este tema:

  • Um tecnólogo de código aberto na indústria automotivaescreveu: 'Teremos que ter sistemas independentes de IA com acesso aos dados cuidadosamente controlados, governança clara e o direito dos indivíduos de serem esquecidos'.
  • Um professor pesquisador de relações internacionais em uma grande universidade em Washington, D.C.,respondeu: 'Temos que encontrar um equilíbrio entre os regulamentos concebidos para encorajar o uso ético não discriminatório, transparência e inovação'.
  • Diretor de um importante registro regional da Internetdisse: 'A capacidade do governo de regular adequadamente as tecnologias avançadas não está acompanhando a evolução dessas tecnologias. Isso permite que muitos desenvolvimentos ocorram sem aviso, análise, verificação ou regulamentação suficiente para proteger os interesses dos cidadãos (o Facebook é um excelente exemplo).
  • PARA professor em uma grande universidade da região do Vale do Silíciodisse: 'Se os avanços tecnológicos não forem integrados a uma visão holística, ecologicamente sustentável e politicamente igualitária, eles simplesmente servirão a comunidades fechadas e fechadas'.
  • PARAmembro do conselho editorial da Association of Computing Machinery Journal sobre sistemas autônomos e adaptativoscomentou, 'Ao desenvolver uma IA ética, podemos fornecer serviços mais inteligentes na vida diária, como objetos de colaboração que fornecem serviços altamente adaptáveis ​​sob demanda em qualquer ambiente de suporte às atividades da vida diária'.

Outros entrevistados anônimos comentaram:

  • “É essencial que os formuladores de políticas se concentrem nas desigualdades iminentes. A questão central é para quem a vida será melhor e para quem será pior? Algumas pessoas se beneficiarão com a IA, mas muitas não. Por exemplo, as pessoas na extremidade média e inferior da escala de renda verão seus empregos desaparecerem à medida que as colaborações homem-máquina / IA se tornarem mais econômicas e eficientes. Embora tais mudanças possam gerar benefícios para a sociedade, elas não devem nascer nas costas de pessoas de renda média e baixa ”.
  • “Os resultados serão determinados pela capacidade das instituições políticas, de justiça criminal e militares de se adaptarem às tecnologias em rápida evolução”.
  • “Para garantir o melhor futuro, precisamos intensificar os esforços nas áreas de descentralização da propriedade de dados, educação e política em torno da transparência”.
  • “A maior parte do know-how de IA de ponta é e será controlada por algumas corporações gigantes, a menos que o governo ou uma versão melhor das Nações Unidas entre para controlá-las e supervisioná-las”.
  • 'A mudança política determinará se as tecnologias de IA irão beneficiar a maioria das pessoas ou não. Não estou otimista devido ao atual crescimento dos regimes autoritários e ao crescente segmento da elite super-rica, que obtém um poder desproporcional sobre a direção da sociedade de seu domínio econômico ”.
  • 'Devem ser implementados mecanismos para garantir que os benefícios da IA ​​não cheguem apenas às grandes empresas e seus acionistas. Se as tendências atuais de governança neoliberal continuarem, o valor agregado da IA ​​será controlado por alguns participantes dominantes, de modo que os benefícios não serão acumulados para a maioria das pessoas. É necessário equilibrar eficiência com equidade, o que não temos feito ultimamente ”.

Mudar as prioridades dos sistemas econômicos, políticos e educacionais para capacitar os indivíduos a permanecerem à frente na 'corrida com os robôs'

Uma parte desses especialistas sugere que a criação de políticas, regulamentos ou padrões éticos e operacionais deve mudar as prioridades corporativas e governamentais para se concentrar no avanço global da humanidade, ao invés de lucros ou nacionalismo. Eles pedem que as principais organizações renovem suas práticas e garantam que os avanços da IA ​​visem o aumento humano para todos, independentemente da classe econômica.

Evan Selinger, professor de filosofia no Instituto de Tecnologia de Rochester, comentou: 'Para que as pessoas, em geral, tenham uma situação melhor à medida que a IA avança até 2030, uma agenda política progressiva - uma agenda enraizada na proteção das liberdades civis e dos direitos humanos e também conscientes dos perigos do aumento das desigualdades sociais e econômicas - teriam que desempenhar um papel mais forte na governança. À luz dos eventos atuais, é difícil ser otimista de que tal agenda terá os recursos necessários para acompanhar os usos transformadores da IA ​​em todos os aspectos cada vez maiores da sociedade. Para corrigir o curso a tempo, é necessário que o público em geral desenvolva uma apreciação profunda sobre por que as principais ideologias relativas ao mercado, prosperidade e segurança não estão de acordo com o florescimento humano '.

AI 'feito da maneira certa' irá capacitar. Nicholas Beale

Nicholas Beale, líder da prática de estratégia da Sciteb, uma empresa internacional de estratégia e pesquisa, comentou: 'Tudo depende de como a IA é aplicada com responsabilidade. AI 'feito da maneira certa' fortalecerá. Mas, a menos que os CEOs ocidentais melhorem sua ética, isso não acontecerá. Estou esperando o melhor '.

Benjamin Shestakofsky, um professor assistente de sociologia da Universidade da Pensilvânia, especializado em impactos da tecnologia digital no trabalho, disse: 'Os legisladores devem agir para garantir que os cidadãos tenham acesso ao conhecimento sobre os efeitos dos sistemas de IA que afetam suas chances de vida e uma voz na governança algorítmica . A resposta a esta pergunta dependerá das escolhas feitas pelos cidadãos, trabalhadores, líderes organizacionais e legisladores em uma ampla gama de domínios sociais. Por exemplo, sistemas algorítmicos de contratação podem ser programados para priorizar resultados eficientes para as organizações ou resultados justos para os trabalhadores. Os lucros produzidos pelo avanço tecnológico podem ser amplamente compartilhados ou podem ser capturados pelos acionistas de um pequeno número de empresas de alta tecnologia.

Charles Zheng, um pesquisador em aprendizado de máquina e IA do Instituto Nacional de Saúde Mental, escreveu: 'Para garantir o melhor futuro, os políticos devem ser informados sobre os benefícios e riscos da IA ​​e aprovar leis para regular a indústria e encorajar a pesquisa aberta de IA. Minha esperança é que os algoritmos de IA avancem significativamente em sua capacidade de entender a linguagem natural e também em sua capacidade de modelar e compreender humanosvalores. Meu medo é que os benefícios da IA ​​sejam restritos aos ricos e poderosos, sem serem acessíveis ao público em geral '.

Mary Chayko, autor de 'Superconnected: The Internet, Digital Media, and Techno-Social Life', disse: 'Veremos supervisão regulatória da IA ​​voltada para a proteção daqueles que a usam. Dito isso, as pessoas precisarão se manter informadas sobre os impactos da IA ​​sobre elas e se mobilizar conforme necessário para limitar o poder de empresas e governos de se intrometerem em seus espaços, vidas e direitos civis. Será preciso vigilância e muito trabalho para conseguir isso, mas sinto que estamos à altura da tarefa ”.

R 'Ray' Wang, fundador e analista principal da Constellation Research, com sede no Vale do Silício, disse: 'Não colocamos os controles da IA ​​nas mãos de muitos. Na verdade, a experiência na China mostrou como essa tecnologia pode ser usada para tirar as liberdades e os direitos do indivíduo para fins de segurança, eficiência, conveniência e caprichos do estado. No lado comercial, também não temos nenhum controle em jogo quanto à IA ética. Cinco elementos devem ser incluídos no projeto - transparência, explicabilidade, reversibilidade, coachability e processos conduzidos por humanos '.

John Willinsky, professor e diretor do Public Knowledge Project da Stanford Graduate School of Education, disse: 'Os usos da IA ​​que reduzem a autonomia e a liberdade humanas precisarão ser cuidadosamente avaliados em relação aos ganhos em outras qualidades da vida humana (por exemplo, carros sem motorista que melhoram tráfego e aumentar a segurança). Em 2030, as deliberações sobre essas questões serão críticas para o funcionamento da 'colaboração homem-máquina / IA'. Minha esperança, no entanto, é que essas deliberações não sejam enquadradas como colaborações entre o que é humano e o que é IA, mas sejam vistas como o uso humano de mais uma tecnologia, com a sabedoria de tal uso aberta à consideração humana contínua e intenção de intervenção no avanço daquele sentido do que é mais humano sobre nós '.

PARAprofessor de estudos de mídia em uma universidade dos EUAcomentou: 'A tecnologia será uma expressão material da política social. Se essa política social for promulgada por meio de um processo democrático voltado para a justiça, ela terá uma chance melhor de produzir resultados voltados para a justiça. Se for promulgado apenas por empresas de capital de risco, sem nenhuma obrigação para com o interesse público, a maioria das pessoas em 2030 provavelmente ficará em situação pior ”.

Gene Crick, diretor da Metropolitan Austin Interactive Network e especialista em telecomunicações da comunidade de longa data, escreveu: 'Prever que a IA beneficiará' a maioria 'das pessoas é mais esperançoso do que certo. ... IA pode beneficiar vidas no trabalho e em casa - se as agendas concorrentes puderem ser equilibradas. O principal suporte para este objetivo importante pode ser a aceitação e o compromisso dos profissionais de tecnologia em relação às responsabilidades sociais e éticas de nosso trabalho '.

Anthony Picciano, um professor de educação do programa de Tecnologia e Pedagogia Interativa da City of New York University, respondeu: 'Estou preocupado que a motivação do lucro levará algumas empresas e indivíduos a desenvolver aplicativos de IA que irão ameaçar, não necessariamente melhorar, nosso modo de vida. Nos próximos 10 anos, veremos o progresso evolutivo no desenvolvimento da inteligência artificial. Depois de 2030, provavelmente veremos desenvolvimentos revolucionários que terão ramificações significativas em muitos aspectos do esforço humano. Teremos de desenvolver testes de inteligência artificial '.

Bill Woodcock, diretor executivo da Packet Clearing House, a organização de pesquisa por trás do desenvolvimento da rede global, comentou: 'Em curto prazo e de maneiras pragmáticas, os algoritmos de aprendizagem economizarão o tempo das pessoas ao automatizar muitas tarefas como navegação e entrega de pacotes e compra de alimentos básicos. Mas essa vitória tática vem com uma perda estratégica, desde que a aplicação primária da IA ​​seja extrair mais dinheiro das pessoas, porque isso as coloca em oposição aos nossos interesses como espécie, ajudando a enriquecer algumas pessoas às custas de todas as outras. . Na IA que explora as fraquezas psicológicas humanas para nos vender coisas, criamos pela primeira vez algo que efetivamente antecede nossa própria espécie. Essa é uma ideia fundamentalmente ruim e requer regulamentação com a mesma certeza que as armas biológicas autorreplicantes ”.

Ethem Alpaydın, um professor de engenharia da computação da Universidade de Bogazici, em Istambul, respondeu: 'A IA favorecerá os países desenvolvidos que realmente desenvolvem essas tecnologias. A IA ajudará a encontrar a cura para várias doenças e, em geral, a melhorar as condições de vida de várias maneiras. Para os países em desenvolvimento, entretanto, cuja força de trabalho é em sua maioria não qualificada e cujas exportações são em grande parte de baixa tecnologia, a IA implica em maior desemprego, menor renda e mais agitação social. O objetivo da IA ​​nesses países deve ser aumentar a qualificação da força de trabalho, em vez de suplantá-la. Por exemplo, sistemas de tradução automática em tempo real (por exemplo, o peixe Babel do Google) permitiriam que pessoas que não falam uma língua estrangeira encontrassem trabalho na indústria do turismo '.

Joe Whittaker, um ex-professor de ciências e diretor associado do programa GESTAR da NASA, agora reitor associado da Jackson State University, disse: 'Devem ser tomadas ações para tornar a internet universalmente disponível e acessível, fornecer treinamento e know-how para todos os usuários' .

John Paschoud, conselheiro do bairro londrino de Lewisham, disse: 'Épossívelque os avanços na IA e nas informações em rede irão beneficiar 'a maioria' das pessoas, mas isso é altamente dependente de como esses benefícios são compartilhados. ... Se os modelos capitalistas tradicionais de 'propriedade dos meios de produção' prevalecerem, então os benefícios da produção automatizada serão retido por poucos que possuem, não por muitos que trabalham. Da mesma forma, os modelos de habitação, cuidados de saúde, etc., podem ser distribuídos de forma equitativa e podem ser melhorados pela tecnologia '.

David cobras, um professor de lingüística computacional aplicada na Universidade de Bielefeld, na Alemanha, respondeu: 'Se as regulamentações corretas forem postas em prática e os modelos de receita baseados em anúncios puderem ser controlados de forma que não possam ser explorados por grupos de interesse político, o potencial para A busca de informações com base em IA e o suporte à decisão são enormes. Esse é um grande se, mas prefiro permanecer otimista '.

Kate Carruthers, um diretor de dados e analítica baseado na Austrália, previu: 'Os seres humanos irão interagir cada vez mais com a IA em uma base constante e se tornará difícil saber onde estão os limites entre os dois. Assim como as crianças agora veem seus telefones celulares como uma extensão de si mesmas, a integração humano / IA também o será. Temo que a causa da democracia e da liberdade esteja perdida até 2030, portanto, pode ser um futuro mais sombrio. Para evitar isso, uma coisa que precisamos fazer é garantir o desenvolvimento de padrões éticos para o desenvolvimento de IA e garantir que lidamos com o viés algorítmico. Precisamos construir ética em nossos processos de desenvolvimento. Além disso, presumo que rastrear e monitorar pessoas será uma parte aceita da vida e que haverá uma regulamentação mais forte sobre privacidade e segurança de dados. Cada faceta da vida será circunscrita pela IA, e ela fará parte da estrutura de nossas vidas '.

David Zubrow, diretor associado de pesquisa empírica do Instituto de Engenharia de Software da Carnegie Mellon University, disse: 'Como os avanços são usados ​​exige sabedoria, liderança e normas e valores sociais que respeitam e se concentram em tornar o mundo melhor para todos; a educação e os cuidados de saúde alcançarão áreas remotas e carentes, por exemplo. O medo de que o controle se consolide nas mãos de poucos que buscam explorar as pessoas, a natureza e a tecnologia para seu próprio ganho. Tenho esperança de que isso não aconteça '.

Francisco S. Melo, um professor associado de informática do Instituto Superior Técnico de Lisboa, Portugal, respondeu, 'Espero que a tecnologia de IA contribua para tornar vários serviços (na saúde, vida assistida, etc.) mais eficientes e humanos e, tornando o acesso aos informações mais amplamente disponíveis, contribuem para mitigar as desigualdades na sociedade. No entanto, para que as visões positivas se tornem realidade, tanto os pesquisadores de IA quanto a população em geral devem estar cientes das implicações que tal tecnologia pode ter, particularmente na forma como a informação é usada e nas maneiras pelas quais ela pode ser manipulada. Em particular, os pesquisadores de IA devem buscar transparência em seu trabalho, a fim de desmistificar a IA e minimizar a possibilidade de uso indevido; o público em geral, por outro lado, deve se esforçar para ser educado no uso responsável e informado da tecnologia ”.

Kyung Sin Park, especialista em leis de internet e cofundador da Open Net Korea, respondeu: 'AI consiste em software e dados de treinamento. O software já está sendo disponibilizado em uma base de código aberto. O que decidirá a contribuição da IA ​​para a humanidade será se os dados (usados ​​para treinar IA) serão distribuídos de forma equitativa. As leis de proteção de dados e o movimento de dados abertos farão o trabalho de tornar mais dados disponíveis igualmente para todas as pessoas. Eu imagino um futuro onde as pessoas possam ter acesso a diagnósticos de sintomas baseados em IA, o que reduzirá drasticamente os custos de saúde para todos '.

Doug Schepers, tecnólogo-chefe do Fizz Studio, disse: 'AI / ML, em aplicativos e em dispositivos e veículos autônomos, tornará alguns empregos obsoletos e o desemprego resultante causará alguma instabilidade econômica que afeta a sociedade como um todo, mas a maioria dos indivíduos será melhor. O impacto social do software e dos sistemas em rede ficará cada vez mais complexo, portanto, atenuar esse problema de software com os agentes de software pode ser a única maneira de diminuir os danos às vidas humanas, mas apenas se pudermos focar no objetivo do software para beneficiar indivíduos e grupos, em vez de empresas ou setores.

Erik Huesca, presidente da Fundação de Conhecimento e Cultura Digital, com sede na Cidade do México, disse: 'Há uma concentração de lugares onde IA específica é desenvolvida. É uma consequência do investimento de capital que busca substituir profissionais caros. As universidades têm que repensar que tipo de graduados preparar, principalmente nas áreas da saúde, jurídico e engenharia, onde se espera o maior impacto, já que o deslocamento laboral de médicos, engenheiros e advogados é uma realidade com os sistemas desenvolvidos incipientes ”.

Stephen Abram, diretor da Lighthouse Consulting Inc., escreveu: 'Estou preocupado que a agência individual esteja perdida na IA e que as salvaguardas adequadas devam ser implementadas em torno da coleta de dados conforme especificado pelo indivíduo. Eu me preocupo que o contexto possa ser mal interpretado por agências governamentais como ICE, IRS, polícia, etc. Há uma grande conversa necessária ao longo do tempo durante o qual os aplicativos de IA são desenvolvidos e eles precisam ser perenes à medida que a inovação e a criatividade geram novos desenvolvimentos. Com efeito, isto não deve fazer parte de um processo político, mas sim de um processo académico independente e orientado por princípios e não por entidades económicas e comerciais ».

David Klann, consultor e desenvolvedor de software da Broadcast Tool & Die, respondeu, 'IA e tecnologias relacionadas continuarão a melhorar a vida das pessoas. Tenho tendência para o otimismo; Acredito instintivamente que haja ativistas suficientes que se preocupam com a ética da IA ​​para que a tecnologia seja usada para resolver problemas que os humanos não podem resolver por conta própria. Considere o mapeamento, por exemplo. Recentemente, aprendi sobre problemas de congestionamento causados ​​por direções sendo otimizadas para indivíduos. As pessoas agora estão ajustando os algoritmos para considerar várias pessoas tomando a 'rota mais eficiente' que ficou congestionada e estava causando perturbação na vizinhança devido ao aumento do tráfego. Acredito que as pessoas construirão algoritmos de IA para aprender e 'pensar no futuro' sobre essas consequências não intencionais e evitá-las antes que se tornem problemas. Claro, meu medo é que os interesses financeiros continuem a exercer uma influência avassaladora sobre a IA e o aprendizado de máquina (ML). Isso pode ser mitigado por meio de técnicas totalmente divulgadas, transparência e supervisão de terceiros. Esses terceiros podem ser instituições governamentais ou organizações não governamentais com força para 'fazer cumprir' o uso ético das tecnologias. O código-fonte aberto e os dados de treinamento de ML aberto contribuirão significativamente para essa mitigação '.

Andrian Criar, um jornalista e documentarista baseado na Alemanha, disse: 'Se a humanidade estiver disposta a aprender com seus erros com IAs de baixo nível, como algoritmos de mídia social, pode haver uma chance de a IA se tornar um motor de igualdade e progresso. Visto que a maior parte do desenvolvimento digital é impulsionado pelo capital de risco, a experiência mostra que a automação e o abuso serão a norma '.

Temos que tornar os dados imparciais antes de colocá-los na IA, mas não é muito fácil. Maai Sugimoto

Mai Sugimoto, um professor associado de sociologia da Universidade Kansai, no Japão, respondeu: 'IA pode ampliar o preconceito e o preconceito de uma pessoa. Temos que tornar os dados imparciais antes de colocá-los na IA, mas não é muito fácil '.

Um entrevistado anônimoescreveu: 'Há claramente avanços associados à IA, mas o clima político global atual não dá nenhuma indicação de que o avanço tecnológico em qualquer área irá melhorar a maioria das vidas no futuro. Também precisamos pensar ecologicamente em termos da inter-relação entre a tecnologia e outros eventos de mudança social. Por exemplo, a tecnologia médica aumentou a expectativa de vida, mas a atual crise de opióides ceifou muitas vidas nos EUA entre certos grupos demográficos '.

Um fundadore presidentedisse: 'O futuro da IA ​​é mais sobre as políticas que escolhemos e os projetos que escolhemos financiar. Acho que haverá grandes interesses corporativos em IA que servirão apenas aos lucros e aos interesses das corporações. Esta é a força para o 'mal'. No entanto, também acredito que a maioria dos tecnólogos deseja fazer o bem e que a maioria das pessoas deseja seguir na direção do bem comum. No final, acho que essa força vai vencer '.

Um estrategista sênior em sistemas regulatórios e economia para uma importante empresa global de telecomunicaçõesescreveu: 'Se não nos esforçarmos para melhorar a sociedade, tornando os mais fracos em melhor situação, todo o sistema pode entrar em colapso. Então, é melhor a IA servir para tornar a vida mais fácil para todos '.

Facebook   twitter