Se sistemas de inteligência artificial puderem ser considerados “pessoas”, quais direitos eles devem possuir?

Matt Scherer

Tradução autorizada: Odélio Porto Júnior

O último texto nessa série mostrou que as sociedades empresariais, espécie da pessoa jurídicas, surgiram como institutos jurídicos dotados de certos direitos porque a sociedade como um todo acreditou que seria benéfico do ponto de vista econômico e social. Desde então, os reais benefícios da dotação de personalidade jurídica às “empresas” têm sido tema de debate. Muitas pessoas, sejam da área jurídica ou não,  questionam se nós não demos direitos demais às corporações, tratando-as demais como pessoas naturais. Seguindo esse raciocínio, devemos nos perguntar quais direitos e responsabilidades nós deveríamos conceder aos sistemas de inteligência artificial (I.A.), se decidirmos tratá-los legalmente com personalidade jurídica?

Como nos outros textos da série, este post trará mais perguntas do que respostas. Isso se deve, em parte, porque o conceito de personalidade jurídica empresarial mostrou–se maleável ao longo dos anos. Apesar de as pessoas jurídicas empresariais serem o exemplo mais antigo de pessoa artificial, uma ficção jurídica, no mundo do Direito, nós ainda não temos certeza quanto a quais direitos e deveres essas ficções devem possuir. Eu consigo imaginar uma única premissa que estará presente nos diversos conceitos de personalidade jurídica: em um sentido jurídico elementar, a personalidade jurídica requer o direito de processar e ser processado. Além desse elemento, o conceito de personalidade jurídica se mostra muito flexível. Isso quer dizer que, nós, como sociedade, escolheremos na maior parte, cada um dos direitos e responsabilidades que estarão inclusos no conceito de personalidade jurídica de uma inteligência artificial.

Com as pessoas jurídicas empresariais, os direitos de propriedade e as responsabilidades derivadas estão no núcleo do conceito da personalidade jurídica. Pessoas jurídicas empresariais podem ser partes em um contrato, mas também podem ser responsabilizadas se elas o quebrarem. Elas podem ser proprietárias de direitos de patente mas também podem responsabilizadas por os infringirem. Direitos de propriedade, sejam de bens reais ou de propriedade intelectual, entre outros, deveriam da mesma maneira ser garantidos à sistemas de inteligência artificial? Se sim, deveriam os sistemas de I.A. ser capazes de comprar e vender tais propriedades sem o aval de um ser humano?

Se o objetivo de atribuir personalidade jurídica aos sistemas de I.A. for incentivar maiores investimentos nessa área, a resposta para as questões acima é provavelmente “sim”. Se a I.A. possuir seus próprios bens, haverá um fonte de fundos a partir dos quais possíveis vítimas poderão ser compensadas por eventuais danos causados pela I.A. Mas parte da sociedade ficará incomodada com sistemas de I.A. não apenas executando operações financeiras e de transferência de propriedade, o que já ocorre atualmente, mas também com estes sistemas sendo proprietários, eles próprios, desses bens.

E quanto à liberdade de expressão/fazer financiamento de campanha? Pessoas jurídicas empresariais obviamente não são capazes de expressão no sentido literal, mas no famoso caso Citizens United, a Suprema Corte dos EUA estabeleceu que as corporações têm o direito de se expressar politicamente por meio de doações empresariais de campanha. E sistemas de inteligência artificial, ao contrário das corporações, são capazes de se expressar por si mesmos, seja literalmente, seja de forma simulada. O peculiar caso do chatbot Tay da Microsoft, que twitou comentários de cunho racista e nazista, em março deste ano, demonstra que discursos gerados por I.A. podem ser ofensivos e preconceituosos. Desse modo, deveriam os governos restringir o que uma I.A. pode ou não dizer? Ou sistemas de I.A. deveriam ter um direito de liberdade de expressão semelhante ao humano, livre de interferências do governo?

E sistemas de I.A. deveriam ter direitos a certas liberdades religiosas? Pode parecer estranho descrever um robô como possuidor de crenças religiosas, mas a Suprema Corte dos EUA já decidiu que, para o caso de sociedades empresarias de caráter pessoal, i.e. sociedades com um número pequeno de proprietários e que não possuem ações na bolsa de valores, elas possuem, em certa medida, direitos de liberdade religiosa. Isso, no sentido de que essas sociedades não podem ser obrigadas à se engajar em atividades que violariam as crenças religiosas do seus sócios.

Interpretações semelhantes deveriam ser aplicadas aos sistemas de I.A.? Por exemplo, uma I.A. farmacêutica deveria ter o direito de recusar fornecer contraceptivos? E quem deveria ter o direito de programar um sistema de I.A. com elementos de crença religiosa? As pessoas que o arquitetaram? Ou o usuário final? Deve-se permitir que os designers do sistema de I.A. o programem com crenças religiosas que o usuário final não pode alterar?

Vale a pena enfatizar um distinção prática entre sociedades empresárias e sistemas de I.A. A primeira é um ficção jurídica, que efetivamente só existe no papel. Já os segundos, por outro lado, existem no mundo físico. Uma sociedade empresária não tem a habilidade de agir sem a intervenção de um ser humano, que age em seu nome. Uma I.A., por sua própria definição, não possui esta limitação. O elemento principal de um veículo ou arma autônomo, ou um sistema eletrônico de comércio, é que eles são capazes de agir sem a necessidade de ordens especificas de um ser humano.

Infelizmente, não parece claro quais deveriam ser as implicações legais derivadas da autonomia e da real existência física dos sistemas de I.A. Essa autonomia e habilidade de manipular por si mesmos o mundo físico geram preocupações de responsabilização que superam aquelas direcionadas atualmente às pessoas jurídicas empresariais. Com uma sociedade empresarial nós temos o conforto de saber que no fim é um humano que está no comando, mesmo que haja um personalidade jurídica própria da sociedade aos olhos do direito. Esse conforto não existirá para o caso de reconhecermos personalidade jurídica às I.A. Isso pode sugerir que queiramos impor maiores limites ao escopo dos direitos que serão atribuídos àqueles sistemas, em comparação às empresas.

Por outro lado, uma maior autonomia e capacidade de alteração do mundo físico faz com as I.A. sejam vistas como mais próximas do humano que as corporações. Isso pode sugerir que devamos garantir à elas mais direitos, se comparadas às sociedades empresariais.

Será interessante ver qual das duas visões irá prevalecer, se os sistemas legais decidirem reconhecer algum nível de personalidade jurídica aos sistemas de inteligências artificial.

Texto original postado aqui, em Future of Life Institute