Devemos garantir os direitos humanos aos robôs?

Robôs e inteligência artificial (IA) estão penetrando cada vez mais na vida das pessoas's. Eles estão sendo usados na indústria, medicina e indústrias de serviços. Com cada passo de progresso na robótica e o desenvolvimento da inteligência artificial, estamos nos aproximando do dia em que as máquinas corresponderão às capacidades humanas em todos os aspectos - inteligência, consciência e emoção. Talvez, com o tempo, os robôs não apenas seguirão os comandos humanos, mas também tomarão suas próprias decisões.

Quando se trata de se dar ou não direitos aos robôs

Esta questão é abrangente, complexa e multifacetada. Ela precisa ser considerada e resolvida de várias perspectivas - ética, sociologia, direito, neurobiologia e teoria da IA.

A necessidade de regulamentação da robótica

A regulamentação legal da robótica, ou seja, a ciência e a prática do desenvolvimento, fabricação e utilização de robôs, é uma área que está apenas começando a emergir. É porque a humanidade é bastante longa e não está disposta a realizar este processo conforme necessário. A esfera da robótica tem se desenvolvido de forma dinâmica nas últimas décadas. Ainda assim, ao mesmo tempo, ela está em uma espécie de "zona de sombra," o que na verdade leva a atrasos nos processos de desenvolvimento da estrutura legal para o ordenamento de relações envolvendo robôs.

A indefinição do conceito de " robô" e a falta de classificação para formar a estrutura legal também é complicada. Em muitos estudos, a definição mais comum de "robot" deriva da lista de funções desempenhadas por eles: robôs são objetos ou sistemas criados artificialmente que podem receber e processar informações e agir de acordo com o mundo externo ao seu redor..

Para a ciência jurídica, o aspecto crítico não é tanto o sistema técnico e de engenharia específico do robô's, mas sim as capacidades e funções que ele pode reproduzir.

O principal objetivo de inventar os primeiros robôs era aliviar os humanos das atividades mais árduas e extenuantes. Era o principal objetivo funcional dos robôs.

Os primeiros robôs corresponderam plenamente a estas abordagens, representando equipamentos especiais - um manipulador controlado de acordo com um programa específico, executando um conjunto de funções (ações) definidas. Estes robôs tinham autonomia estritamente limitada e controlada, e seu uso como equipamento necessário para melhorar os processos de produção não foi discutido em termos práticos.

Entretanto, a tecnologia estava evoluindo. Redes neurais capazes de reconhecer imagens e compreender a fala humana, a auto-aprendizagem começou a copiar os princípios do cérebro humano. Com o aperfeiçoamento da tecnologia de inteligência artificial, o objetivo principal de desenvolver algoritmos que fornecessem soluções computacionais para tarefas cognitivas peculiares ao cérebro humano, o desenvolvimento de robôs adquiriu uma nova direção. Eles começaram a "socializar," integrados em várias comunicações como participantes de pleno direito (policial robô, enfermeiro robô, funcionário de banco, etc.) ou assistentes.

É possível distinguir várias gerações de robôs:

Geração I - robôs programáveis que executam funções estritamente limitadas, geralmente implementadas para automatizar processos realizados por humanos,

Geração II: robôs com controle adaptativo, baseado no processamento de informações por dispositivos sensores,

Geração III - autodidata, altamente autônomo, "inteligente" robôs.

Critérios que distinguem uma ferramenta "inteligente" robô de outros sistemas da União Européia foram desenvolvidos. Para qualificar uma máquina como uma máquina "inteligente" de alta tecnologia; dispositivo, ele deve:

• ser capaz de realizar ações autônomas por meio do uso de sensores e/ou trocando informações com o mundo exterior e analisando esses dados,
• ser autotreinável (este critério é opcional),
• estar fisicamente equipado,
• para adaptar seu comportamento ao ambiente externo.

Aspectos morais e éticos do uso de robôs

Nos EUA e países europeus, o conceito de "ponderado" regulação da robótica tem sido desenvolvida ativamente recentemente. Assim, por exemplo, no quadro da resolução do Parlamento Europeu, foram fixados vários aspectos fundamentais, que definem a base moral e ética das relações robô-humano, que satisfazem os seguintes critérios:

• A não nocividade de seres humanos na operação do robô,
• obediência do robô às instruções e comandos de um humano, exceto nos casos em que tal comportamento da máquina possa causar danos a um humano,
• garantir a capacidade do robô de manter sua existência, desde que não contradiga os requisitos mencionados anteriormente,
• finalmente, os robôs não devem prejudicar a humanidade como um todo.

Ao desenvolver um regulamento normativo, tanto as características técnicas de "smart" robôs e seus "humanos" características devem ser consideradas simultaneamente. Suponha que os recursos de design de um projeto "inteligente" robô não são considerados. Nesse caso, pode levar à regulamentação a nível legislativo, não do conteúdo disponível, mas simplesmente da forma robótica. ?humaniza�o? excessiva; de robôs, que de certa forma é uma tendência da realidade moderna, pode levar a consequências imprevisíveis, por exemplo, na determinação de quem é o culpado de causar danos.

Apesar dos benefícios percebidos de usar esses robôs, existem riscos óbvios. Primeiro, quanto mais autônomo o robô, mais difícil é determinar a responsabilidade, pois o controle do operador humano é minimizado. Em segundo lugar, o robô é um sistema de informação sujeito aos riscos de hacking. Nesse sentido, é aceitável explorar a designação desses robôs como objetos vitais da infraestrutura de informações e desenvolver um sistema legal adequado para tipos específicos de robôs.

A questão da escolha moral, que um robô não é capaz de fazer uma vez que as tecnologias de aprendizado de máquina ainda não atingiram esse nível, não deixa de ser importante: como avaliar o valor da vida de uma pessoa? Quem deve ser atendido primeiro: a pessoa com maior probabilidade de sobrevivência ou a que tem mais valor estratégico, o que pode ser crucial, por exemplo, em uma situação de guerra?

Sem dúvida, o projeto, desenvolvimento e implementação de tecnologias de inteligência artificial devem ser cuidadosamente analisados e realizados dentro da estrutura de uma abordagem baseada no risco. Todos os processos automatizados devem ser projetados para que possam ser examinados e avaliados por um especialista. A transparência dos algoritmos e aspectos técnicos da operação dos robôs deve ser assegurada para criar um ambiente de confiança e proteger os direitos humanos.

Definição dos direitos e responsabilidades dos robôs

Na formação do quadro legislativo na esfera de dotar certos tipos dos chamados " smart" robôs com direitos, propõe-se distinguir entre o próprio sistema robótico, criado sem o uso de tecnologia que assume a autonomia do objeto (robôs industriais, drones, submersíveis de alto mar), e os robôs agentes, ou seja, sistemas capazes de executar certos tipos de tarefas de forma independente. Aqui, a adição da palavra " agente" significa que tais sistemas implementam os interesses de um indivíduo específico ou de uma entidade legal.

Um ponto importante na determinação dos direitos e responsabilidades de qualquer pessoa é a presença de sua vontade de realizar ações legais significativas específicas de regulamentação. Alguns estudiosos, por outro lado, afirmam que robôs com inteligência artificial avançada e autonomia têm o direito legal de escolher.

Entretanto, cientistas' a conclusão é bastante difícil de usar para construir o conceito de um robô como pessoa física. Dar aos robôs plena competência legal também afeta se eles são ou não capazes de arcar com a responsabilidade pelos danos que infligem.

O mais comum na pesquisa científica é o conceito de um robô como pessoa jurídica. Ele permite a aplicação seletiva de normas de direito civil que regulamentam as relações jurídicas com a participação de pessoas jurídicas à regulamentação legal de robôs. A base para esta analogia é o " artificial" natureza das pessoas jurídicas e dos robôs.

Existe ainda outro conceito chamado "conceito de uma pessoa eletrônica". Sua essência é dar aos robôs um status legal especial no futuro, quando o mais avançado deles puder ser criado como pessoas eletrônicas (pessoas) e ser responsável por danos se tomar decisões de forma autônoma ou interagir de forma independente com terceiros. Entre as características de um robô inteligente mencionadas estão a capacidade de:

1. tornar-se autônomo;
2. tornar-se autodidata;
3. adaptar o comportamento.

Como o robô pode desempenhar várias funções necessárias para realizar os objetivos dos desenvolvedores de inteligência artificial, ele geralmente aparece como um ator com um dever, que pode ou não cumprir. Nesse sentido, a questão relevante é quem será o responsável pelo não cumprimento de tal dever - o próprio agente do robô (como pessoa jurídica ou eletrônica) ou o desenvolvedor da tecnologia com base na qual o robô realiza suas ações?

Atualmente, há uma tendência de aumento da autonomia da inteligência artificial e um número cada vez maior de casos de danos aos seres humanos como resultado de decisões tomadas usando tais tecnologias. No momento, a ideia mais promissora parece ser a gestão de riscos, ou seja, responsabilizar a pessoa que tinha a obrigação de minimizar os riscos de dano, ou seja, permitiu que o descumprimento de seus deveres eliminasse tais consequências negativas.

p>

Mas o que vem a seguir...

Quando descobrirmos que os robôs dominaram um certo nível de consciência e entendermos como medir a mente de uma máquina e aprendermos a avaliar seus níveis de consciência e autoconsciência, teremos para realmente avaliar se o robô à nossa frente tem ou não certos direitos e proteção.

Muito provavelmente, este momento não chegará tão cedo. Para começar, os desenvolvedores de IA precisam criar um "cérebro digital primário. Quando isso acontecer, esses seres sencientes deixarão de ser objetos comuns de estudo e serão elevados a modelos com direito a um julgamento moral. No entanto, isto não implica que estes robôs serão automaticamente reconhecidos como direitos humanos. Ao invés disso, a lei terá que se levantar para protegê-los do uso injusto e da crueldade (na mesma linha que os ativistas de direitos humanos protegem os animais de tratamentos cruéis em experimentos de laboratório). A ciência eventualmente construirá duplicatas eletrônicas do cérebro humano, seja através de modelos reais até os mínimos detalhes ou através do desejo de entender como nossos cérebros funcionam a partir de uma perspectiva computacional e algorítmica. A essa altura, já devemos ser capazes de detectar a presença da consciência nas máquinas. No mínimo, nós'gostaríamos de ver isso acontecer sob o controle da humanidade's. Mas se as mentes humanas podem encontrar uma maneira de despertar uma centelha de consciência em uma máquina, mas não compreendem o que fizeram, será um caos absoluto.

Uma vez que os robôs e a IA tenham essas habilidades básicas, sugere-se que sejam implementados procedimentos para testá-las quanto à individualidade. A humanidade ainda não derivou características universais de consciência. Ainda assim, existe um conjunto padrão de medidas que envolve a avaliação de um nível mínimo de inteligência, autocontrole, senso de passado e futuro, empatia, bem como a capacidade de manifestar livre arbítrio.

Somente ao atingir este nível de sofisticação de avaliação uma máquina será elegível como candidata aos direitos humanos. Entretanto, é crucial compreender e aceitar que robôs e IA exigirão pelo menos direitos fundamentais de proteção se passarem nos testes. Por exemplo, o cientista e futurista canadense George Dworsky acredita que os robôs e a IA merecerão o seguinte conjunto de direitos se conseguirem passar no teste de personalidade:

• O direito de não ser desconectado contra a vontade,
• o direito de acesso irrestrito e significativo ao seu código digital,
• o direito de proteger o código digital de uma pessoa contra influência externa contra sua vontade,
• o direito de copiar (ou não copiar) você mesmo,
• o direito à privacidade (ou seja, o direito de ocultar o estado psicológico atual).

Em alguns casos, pode ser que a máquina não consiga fazer valer seus direitos por conta própria, por isso é necessário prever a possibilidade de que humanos (assim como outros cidadãos, não humanos) possam atuar como representantes desses candidatos para indivíduos. É fundamental reconhecer que um robô ou inteligência artificial (IA) não precisa ser intelectual ou moralmente impecável para passar no teste de personalidade e reivindicar direitos humanos. É crucial lembrar que as pessoas não são perfeitas nessas áreas; portanto, aplicar os mesmos critérios a computadores inteligentes é razoável. O comportamento humano é muitas vezes espontâneo, imprevisível, caótico, inconsistente e irracional. Nossos cérebros estão longe de ser perfeitos, então temos que considerar isso ao tomar decisões sobre IA.

Ao mesmo tempo, uma máquina consciente de si mesma, como qualquer cidadão responsável e cumpridor da lei, deve respeitar as leis, normas e regras prescritas pela sociedade, pelo menos se quiser se tornar um indivíduo autônomo de pleno direito e parte dessa sociedade. Dependendo de suas capacidades, eles devem ser responsáveis por si mesmos ou ter um guardião que possa agir como protetor de seus direitos e responsabilizá-los por suas ações.

E se ignorarmos a inteligência artificial

Quando nossas máquinas alcançarem um certo nível de sofisticação, não poderemos mais ignorá-las do ponto de vista da sociedade's, das instituições governamentais e da lei. Não haverá justificativa para que neguemos a eles os direitos humanos. Discriminação e escravidão resultariam se não o fizéssemos.

Uma fronteira clara entre seres biológicos e máquinas pareceria uma clara expressão da superioridade humana e do chauvinismo ideológico - os seres humanos naturais são únicos, e somente a inteligência física importa.

O fortalecimento da IA seria um precedente importante na história de toda a humanidade. Se pudermos ver as IA como indivíduos socialmente iguais, isso refletirá diretamente nossa coesão social e evidência de nosso apoio a um senso de justiça. Nosso fracasso em abordar esta questão poderia se transformar em um protesto social geral e talvez até mesmo um confronto entre a IA e os seres humanos. E dado o potencial superior da inteligência da máquina, isto poderia ser um desastre para esta última.

Também é importante perceber que o respeito futuro pelos direitos dos robôs também pode beneficiar outros indivíduos:

• Cyborgs
• Humanos transgênicos com DNA alienígena
• Humanos com cérebros copiados, digitalizados e carregados em supercomputadores

Estamos muito longe de criar uma máquina que mereça os direitos humanos. Entretanto, dada a complexidade desta questão e o que exatamente estará em jogo, tanto para a inteligência artificial quanto para os seres humanos, dificilmente se poderá dizer que o planejamento será supérfluo.