A Inteligência Artificial está mudando o mundo. Algumas pessoas estão assustadas com esta perspectiva. Outras estão investindo em novas tecnologias. Outros, temerosos dos robôs, propõem uma nova ética: solução de problemas, emoção e livre arbítrio em um mundo de inteligência virtual. Qual é a ameaça à humanidade dos robôs com inteligência artificial avançada, e como evitá-la (e não tentar impedir o progresso)?
Como as máquinas inteligentes podem ser perigosas: os problemas de robotização e o desenvolvimento da IA
A Inteligência Artificial pode mudar fundamentalmente a sociedade humana, e a escala das mudanças desde sua introdução é comparável às conseqüências da Revolução Industrial. De acordo com a consultoria internacional Frost & Sullivan, o volume global de investimentos no desenvolvimento da IA, principalmente de gigantes de TI como Alibaba, Amazon, Baidu, Google, Facebook e outros, alcançará aproximadamente US$ 52,5 bilhões em 2022, quase quatro vezes mais do que em 2017. 90% dos fundos vão para I & D internos. Os atores industriais mais significativos também financiam pesquisas, principalmente em aprendizagem de máquinas e robótica: ABB, Bosch, GE, Siemens, assim como montadoras de automóveis - BMW, Tesla, Toyota, e outras. Muitos pesquisadores e futurólogos acreditam que a inteligência artificial pode se igualar à inteligência humana no século XXI. Nos próximos 10-20 anos, haverá avanços significativos no reconhecimento e controle da fala de robôs (incluindo carros autônomos). A inteligência artificial também aprenderá a simular perfeitamente as emoções.
Venceu'isto não será desastroso para a humanidade?
A tecnologia tem um enorme potencial malicioso. O maior medo é a perda do controle humano sobre a superinteligência. Há também dificuldades éticas. A lista de preocupações éticas sobre o uso da inteligência artificial, em particular, inclui a questão de como esta tecnologia afetará o comportamento e a interação humana. O McKinsey Global Institute, em suas pesquisas, aponta para outro problema: os preconceitos humanos - racismo, sexismo, etc. - podem ser introduzidos na inteligência artificial. Ainda não está claro que moral será incutida na IA, mas ao internalizar os preconceitos humanos, baseará suas conclusões em empréstimos, contratações, etc. A inteligência artificial reconhece não apenas o sexo e a raça aparente, mas também a orientação sexual. Como podemos evitar a imposição de bens e serviços pela inteligência artificial? Won'tAs aplicações alimentadas por inteligência artificial manipulam as pessoas para gastar? Gan'a inteligência artificial não tenta limitar as pessoas'as escolhas emocionais livres em geral? Há também preocupações sobre as decisões erradas que um computador pode dizer a um médico ou a um juiz. Quem será responsável pelos erros de inteligência artificial - desenvolvedores ou usuários? Nick Bostrom, um famoso filósofo sueco, escreve em sua Ética da Inteligência Artificial que uma pessoa pode esquecer ou parar de entender por que a IA aconselha fazer as coisas desta maneira e daquela maneira. No entanto, a tecnologia ainda não parou de evoluir, levando a uma interação e cooperação mais significativa entre humanos e máquinas na produção e na vida cotidiana. Inevitavelmente surge a questão, que é a primeira e mais perigosa ameaça: como podemos garantir que as máquinas não prejudiquem física e acidental ou intencionalmente os humanos?
Vítimas reais de robôs
Mesmo na vida do escritor de ficção científica e futurologista Isaac Asimov, que formulou três leis de coexistência pacífica entre um robô e um humano, foi encontrada uma máquina que as quebrou.
As leis formuladas por Asimov
- Um robô não pode prejudicar um humano ou permitir que um humano seja prejudicado por sua inação.
- Um robô deve obedecer a todas as ordens dadas por um humano, exceto quando essas ordens contradizem a Primeira Lei.
- O robô deve cuidar de sua própria segurança na medida em que não contradiga a Primeira ou a Segunda Lei.
Em 25 de janeiro de 1979, em Flat Rock, Michigan, EUA, Robert Williams, 25 anos, trabalhador do armazém da fábrica da Ford, foi encarregado de remover peças armazenadas em uma prateleira maciça, que ao mesmo tempo estava sendo operada por uma máquina manipuladora de cinco níveis. Realizava as operações de movimentação dos blanks no armazém. Parte da máquina eram veículos de transporte de uma tonelada - carrinhos com rodas de borracha equipados com manipuladores mecânicos para mover os cabeços. Williams foi enviado para fazer um trabalho que o robô não conseguia fazer - algumas peças foram deixadas de fora da máquina. O trabalhador subiu ao terceiro nível da estante e começou a tarefa. Nesse meio tempo, uma das carroças apareceu aqui e matou instantaneamente o trabalhador que não havia notado sua aproximação com um golpe do manipulador. Williams' corpo permaneceu na prateleira por meia hora até que os trabalhadores o descobrissem. O robô continuou mundano enquanto movia os tarugos. Os parentes do trabalhador entraram com uma ação de indenização de US$ 10 milhões e Williams, sem saber, entrou para a história como a primeira vítima do robô.
No entanto, de acordo com os padrões legais, chamar Robert Williams' assassinato de morte é permitir um grande exagero porque a máquina da fábrica não tinha o principal "atributo qualificador" de homicídio premeditado: motivo. E mesmo em julho de 2016, quando um robô policial com explosivos foi usado para eliminar um criminoso em Dallas, Texas, EUA, as ações da máquina ainda eram dirigidas por um humano.
Os robôs costumam prejudicar os humanos?
Embora todos os robôs, exceto os militares, sejam projetados para que nenhuma das regras de Asimov's seja violada, é impossível evitar completamente as baixas. Existem muitas delas? As estatísticas de incidentes dramáticos envolvendo robôs não são extensas, embora ferimentos e até mesmo assassinatos envolvendo máquinas ocorram regularmente. De acordo com um estudo da Administração de Segurança e Saúde Ocupacional dos EUA (OSHA), os robôs industriais causaram pelo menos 33 mortes e ferimentos no local de trabalho neste país durante 30 anos. Entretanto, também há dados mais escuros. Em 2013, as seguradoras alemãs estimaram que cerca de 100 incidentes envolvendo robôs industriais ocorrem anualmente no país. Um estudo realizado no início de 1987 com empresas dos Estados Unidos, Alemanha, Suécia e Japão descobriu exatamente como os robôs prejudicavam os trabalhadores: em 56% dos casos, eles causavam lesões penetrantes, e em 44%, eles atingiam. A maioria dos acidentes foi causada pela má organização do local de trabalho (20 dos 32 incidentes analisados), enquanto o erro humano causou apenas 13 situações desagradáveis.
Há estatísticas sobre o uso mal sucedido de robôs em áreas de aplicação específicas. Por exemplo, na área médica сobots: em 2013, uma equipe de cientistas analisou estatísticas da Food and Drug Administration (FDA) dos EUA e descobriu que, de 2000 a 2013, houve 144 mortes, 1.391 ferimentos e 8.000 falhas de funcionamento de dispositivos durante procedimentos cirúrgicos assistidos por robôs. Entre estes, duas fatalidades e 52 ferimentos foram causados pelo desligamento espontâneo do robô durante a cirurgia ou por um movimento impróprio. Uma morte e 119 ferimentos foram devidos a partes do robô ou de seus acessórios que caíram sobre o paciente.
Por que os robôs se tornaram mais perigosos?
O problema fundamental e quase filosófico é que os robôs desconhecem a si mesmos como parte do mundo e podem ser perigosos para os outros. Entretanto, se há 20-40 anos, um robô era uma máquina eletromecânica com uma gama mínima de tarefas repetitivas, e o acesso a ela poderia ser restrito para que não prejudicasse acidentalmente ninguém, hoje a situação está mudando. Dois classificadores - um vivo e um mecânico - podem trabalhar simultaneamente na mesma esteira transportadora. Além disso, os robôs se tornam multitarefa, para os quais eles precisam se deslocar pelo território. Assim, forma-se um único espaço de trabalho de homem e máquina, no qual tudo pode acontecer.
Os robôs industriais apresentam vários tipos de perigos, dependendo de sua origem:
- Riscos mecânicos, que resultam de movimentos não intencionais e inesperados ou perda de ferramentas pelo robô;
- Riscos elétricos, como contato com peças ou conexões energizadas;
- riscos térmicos, como aqueles associados a superfícies quentes ou exposição a temperaturas extremas;
- Ruído que pode ser prejudicial à audição. Então, o que desencadeia esses perigos? A OSHA observou que muitos incidentes envolvendo robôs não ocorrem em condições normais de operação, mas sim em situações anormais, como durante a reprogramação, manutenção, reparo, teste, ajuste ou ajuste. Depois, há fatores externos além do controle humano, naturais ou técnicos, como falta de energia.
Há um total de sete razões principais pelas quais os robôs ficam fora de controle:
- erros de controle, ou seja, erros no sistema de controle ou software que levam a um comportamento instável ou a um aumento do potencial energético perigoso da máquina;
- acesso não autorizado - uma violação por um técnico não treinado da zona de segurança próxima à máquina;
- mal funcionamentos mecânicos - os defeitos mais imprevisíveis e perigosos que podem levar à operação imprópria ou inesperada do robô;
- fatores naturais - este grupo de causas inclui tudo o que pode afetar o comportamento do robô devido a motivos genuínos, em particular, interferência eletromagnética ou de radiofrequência, bem como condições climáticas adversas;
- falha no sistema de energia - por exemplo, atuadores pneumáticos, hidráulicos ou elétricos podem interromper os sinais elétricos nas linhas de controle; o resultado é uma liberação de energia, choque elétrico e aumento do risco de incêndio, especialmente quando algo faísca em robôs usando óleo hidráulico combustível;
- a instalação inadequada do robô ou de seus componentes provoca muitos acidentes, incluindo tentativas de correção de erros;
- o fator humano: programação, interface, erros de controle, violação das regras de segurança.
Na maioria das vezes, situações anormais ocorrem devido à intervenção humana no trabalho do robô ou mudanças no ambiente às quais o trabalhador mecânico não consegue reagir. Quais tecnologias impedem que isso aconteça?
Quais tecnologias tornam os robôs seguros?
Três habilidades essenciais tornam um robô trabalhador seguro:
parada controlada,
controle de velocidade e separação de zonas,
limitação de potência e força.
Parada monitorada com classificação de segurança (SMS)
Uma parada monitorada com segurança ocorre assim que uma pessoa está em uma determinada área próxima à máquina, por exemplo, para trocas de ferramentas, ajustes, ajustes ou outros trabalhos diretos no robô. A alimentação elétrica continua, e o robô entra automaticamente no modo de inatividade. Assim que o operador deixa a área de controle, o robô retoma as operações sem comandos adicionais. Diferentes tipos de sensores de distância (ópticos, acústicos, etc.) são usados para medir a distância do robô a uma pessoa (ou outro distúrbio), que determinam o comprimento do objeto's, enviando um sinal e recebendo uma resposta. Para garantir a máxima segurança, os sensores possuem dois sistemas paralelos para transmitir e processar sinais sobre a ocorrência de interferência em uma determinada área. Os sinais vão para dois módulos no controlador do robô's e são processados separadamente e por diferentes algoritmos. Em seguida, eles são cruzados. Assim, se um dos canais falhar por alguma razão, o robô ainda irá parar.
Monitoramento de Velocidade e Separação (SSM)
Esta tecnologia de segurança mais complexa envolve a mudança do comportamento do robô's quando um humano está em uma área específica perto da máquina - por exemplo, diminuindo a velocidade do robô. Tecnicamente, ela funciona assim: a máquina mede continuamente a posição e a velocidade de um objeto na linha de visão. O SSM pode ser implementado tanto em condições estáticas quanto dinâmicas. A chave aqui é a tecnologia para reconhecer os objetos ao redor. Se o robô tem que ver o que está agarrando, então por que ele pode'não aprender a reconhecer os colegas, inclusive as pessoas? A tecnologia de reconhecimento é baseada no uso de duas câmeras, uma câmera RGB, e uma câmera 3D. Ao combinar as imagens capturadas, o robô pode determinar a posição de um objeto's no espaço e seu movimento's na direção.
Potência e Força-Limitada (PFL)
It'é uma das tecnologias mais utilizadas para evitar lesões humanas quando uma pessoa e uma máquina estão em contato. Envolve o uso de várias técnicas, incluindo Sensores de Força-Limitada. Eles convertem os componentes medidos dos vetores de força e momento em sinais adequados para o processamento por um robô que "toca" objetos específicos. Por exemplo, tais sensores são instalados nos braços dos robôs que classificam diferentes tipos de pacotes, incluindo os frágeis. Antes de pegar um lote, o robô "sente" ele, e o sensor determinam com que objeto a máquina está lidando em termos de forma, resiliência e tamanho. Com base nos dados obtidos, o robô seleciona a força de aperto e a velocidade de manuseio do objeto.
Quais tecnologias tornarão o robô mais seguro no futuro?
Os robôs industriais no futuro irão interagir com o ambiente e os seres humanos em transformação, ao contrário de seus predecessores, que só eram capazes de repetir ritmicamente uma gama limitada de tarefas. Para que um robô faça isso e execute tarefas atípicas, ele deve, até certo ponto, aprender habilidades humanas básicas, particularmente a capacidade de ouvir. Toshiba apresentou uma tecnologia de reconhecimento de fala baseada em inteligência artificial. É o primeiro desenvolvimento mundial's de seu tipo: qualquer robô ou dispositivo eletrônico simples será capaz de processar comandos de voz sem conexão com a Internet ou dados em nuvem. Em outras palavras, o dispositivo de processamento está embutido na máquina. Primeiro, a rede neural processa o som, separando comandos de voz de ruídos estranhos, depois é usada a técnica de expansão de dados na rede neural. A expansão de dados é uma técnica para aprender pequenas quantidades de informações, tais como afirmações verbais. A identificação bem sucedida de pessoas ocorre através do treinamento da IA baseado em amostras de sua fala, permitindo que ela reconheça falantes específicos mesmo quando apenas um pequeno número de afirmações está disponível. A Toshiba reduziu o número de amostras de fala necessárias ao ponto em que a nova tecnologia pode reconhecer um usuário com base em apenas três afirmações. Esta tecnologia é ótima para os robôs e os robôs que não'não precisam ser verbosos. Pelo menos por enquanto. A inteligência artificial ajudará os robôs no futuro não só a ouvir melhor, mas também a ver, pensar e se movimentar melhor, o que com o tempo eliminará as barreiras entre os trabalhadores humanos e seus equivalentes artificiais.
Regulamentação e controle
Assim, a robotização e as melhorias da IA são apenas uma ameaça se não forem controladas. Estes processos precisam ser controlados. Por exemplo, sugere-se que em vez de introduzir máquinas com graus crescentes de autonomia em relação aos humanos, crie dispositivos cujo controle requer mais atenção ao lado ético da questão. Os gigantes da tecnologia já estão criando divisões especiais que irão aconselhar os executivos corporativos sobre questões éticas do desenvolvimento da IA. Amazon, Apple, Facebook, Google, IBM, Microsoft e outros estão criando várias associações e parcerias sobre IA, que são um fórum aberto para discutir a robotização e a inteligência artificial e seu impacto nas pessoas e na sociedade. Apesar de todos os riscos associados à introdução de robôs com elementos de IA, governos e empresas não devem atrasar o uso da inteligência artificial. Há um risco de não estar preparado a tempo para novos desafios e oportunidades globais. Por exemplo, os sistemas educacionais devem começar a se reestruturar agora para treinar o pessoal não para competir com as máquinas, mas para monitorá-las e controlá-las. Esta distribuição de áreas de responsabilidade no futuro deve ser feita dentro de cada organização, pública ou privada. Devem ser estabelecidas regras para limitar o escopo de implementação da inteligência artificial nos processos operacionais. Afinal, a inteligência artificial não está sendo desenvolvida para o bem da inteligência artificial, mas para novas oportunidades para os seres humanos.