30 de outubro de 2015

DIREITO NO UNIVERSO DO SILÍCIO: O PÓS-HUMANO E INTELIGÊNCIA ARTIFICIAL *

Rafaela Sandrini
Mickhael Erik Alexander Bachmann
Elizeu de Oliveira Santos Sobrinho
Natalia Zimmermann


Em 1955, Herbert Simon, ganhador do Prêmio Nobel de Economia de 1978, declarou que havia construído, juntamente com Allen Newell, uma máquina pensante. De nome Logic Theorist (LT), a máquina desenvolvida por Simon e Newell produziu, pela primeira vez, a demonstração automática de um teorema que ainda estava em aberto. Após alguns aperfeiçoamentos o LT foi capaz de produzir a prova de mais de 38 teoremas de lógica. Com notáveis realizações, Simon e Newell resolveram submeter as demonstrações a uma conceituada revista de lógica americana, o Journal of Symbolic Logic. Curiosamente, a publicação foi recusada pelo conselho editorial sob a alegação de que uma publicação com o nome do Logic Theorist se constituiria num insulto contra a espécie humana.[1]
Alguns anos depois, em 1997, Deep Blue, um supercomputador desenvolvido pela IBM, venceu um dos maiores enxadristas de todos os tempos, Garry Kasparov. A derrota de Kasparov representa uma nova era na feitura da inteligência artificial[2] e causa certa inquietação à espécie humana pois é um exemplo de que a inteligência artificial superou a inteligência natural/humana. Se até mesmo o Grande Mestre e ex-campeão mundial de xadrez teve suas habilidades superadas por uma máquina dotada de inteligência artificial, o que dizer dos demais humanos?
Essas passagens ilustram o constante aprimoramento e desenvolvimento promovido pela ciência. Evidente que o desenvolvimento científico não se resume a tais passagens. No cotidiano é possível perceber de uma forma mais clara a importância e ampliação dos desenvolvimentos tecnológicos e científicos. Cada vez mais os seres humanos incorporam as tecnologias ao seu ambiente. Os avanços tecnológicos e científicos estão alterando as condições e capacidades humanas. Nessa “simbiose” irá surgir o que os estudiosos denominam de mundo pós-humano ou pós-evolutivo. Comumente o termo pós-humano é associado e interpretado a um cenário apocalíptico, de extinção dos seres humanos ou sua submissão às máquinas[3]. Essa associação é nutrida pelo imaginário popular, por meio de filmes como o célebre 2001 - Uma Odisseia no Espaço, de Stanley Kubrick, os filmes da trilogia Matrix, dirigida pelos irmãos Wachowski, livros de Isaac Asimov, músicas, séries e outros.
Em linhas gerais, o pós-humano diz respeito às mudanças incorporadas ao homem pelo advento da tecnologia e da ciência. Essas mudanças vão desde a forma com que o ser humano se relaciona com o conhecimento à comunicação[4], perpassando por condições físicas e alterando significativamente áreas do conhecimento humano, como a Psicologia e a Filosofia. Ainda que não consiga realizar sua grande proeza de construir máquinas inteligentes, a Inteligência Artificial exige uma reflexão sobre o significado de ser inteligente, o que é ter vida mental, consciência e tantos outros conceitos que são frequentemente empregados em tais disciplinas[5].
O homem utiliza cada vez mais as tecnologias sem muitas vezes compreender adequadamente onde esta tecnologia pode levá-lo. Hodiernamente é plenamente possível a incorporação e o acoplamento de partes artificiais a um corpo humano, confundindo-se aquilo que é natural com aquilo que é artificial, de modo que estabelecer uma linha divisória entre aquilo que é humano e aquilo que não é humano (ou artificial) é uma tarefa hercúlea.
Dentro desse cenário o Direito não seria afetado, afirmam os juristas. Será?! Ao sustentar esse posicionamento os juristas afirmaram que máquinas e a Inteligência Artificial proporcionaram grandes avanços dentro de diversas áreas, mas a função jurisdicional dos magistrados restaria incólume, pois uma máquina não seria capaz de analisar depoimentos, interpretar a norma e os princípios jurídicos, além de doutrinas e jurisprudências, bem como proferir decisões de mérito fundamentadas adequadamente.
Sem adentrar de modo profundo neste posicionamento, é possível elencar alguns exemplos que demonstram a capacidade de máquinas de analisar e interpretar enunciados. O primeiro exemplo é o supercomputador Watson, também desenvolvido pela IBM. Este supercomputador participou de um programa no estilo “quiz show” onde o apresentador dava algumas dicas em formas de pergunta e os participantes deveriam dizer a que resposta as perguntas estavam se referindo. Enfrentando Watson estavam dois dos maiores ganhadores do programa. Para poder participar do jogo, Watson deveria “entender” a sintática e a semântica das frases apresentadas, o que era possível graças a um avançado algoritmo processador de linguagem natural. Além disso, precisava dizer as respostas e conversar com o apresentador e demais participantes, de forma independente, sem interferências humanas.[6] Mais uma vez, a máquina saiu vitoriosa de seu confronto com o homem.
Outro exemplo é trazido por John Searle, onde este analisa um programa desenvolvido por Roger Schank, colega em Yale:


Very briefly, and leaving out the various details, one can describe Schank's program as follows: the aim of the program is to simulate the human ability to understand stories. It is characteristic of human beings' story understanding capacity that they can answer questions about the story even though the information that they give was never explicitly stated in the story. Thus, for example, suppose you are given the following story:
-A man went into a restaurant and ordered a hamburger. When the hamburger arrived it was burned to a crisp, and the man stormed out of the restaurant angrily, without paying for the hamburger or leaving a tip." Now, if you are asked -Did the man eat the hamburger?" you will presumably answer, ' No, he did not.' Similarly, if you are given the following story: '-A man went into a restaurant and ordered a hamburger; when the hamburger came he was very pleased with it; and as he left the restaurant he gave the waitress a large tip before paying his bill," and you are asked the question, -Did the man eat the hamburger?,-' you will presumably answer, -Yes, he ate the hamburger." Now Schank's machines can similarly answer questions about restaurants in this fashion. To do this, they have a -representation" of the sort of information that human beings have about restaurants, which enables them to answer such questions as those above, given these sorts of stories. When the machine is given the story and then asked the question, the machine will print out answers of the sort that we would expect human beings to give if told similar stories.[7]


Este exemplo também mostra a possibilidade de máquinas fazerem uma análise e interpretação. Searle vai utilizar esse exemplo para negar que a máquina efetivamente compreenda a história e após essa compreensão fornece respostas às perguntas e que esse ato da máquina explica a habilidade humana de entender histórias e responder questões sobre elas, numa crítica à Inteligência Artificial forte. Essa crítica de Searle poderá ser objeto de outros trabalhos, por enquanto deve-se guardar como exemplo as “habilidades” da máquina desenvolvida por Roger Schank.
Outro argumento proposto pelos juristas é que o julgamento de demandas humanas por máquinas implicaria na adoção do positivismo jurídico, o que seria inadequado pois o Direito se tornaria apenas a letra fria da lei, sem o lado humano. Por tais razões o melhor uso da inteligência artificial se daria nos peticionamentos eletrônicos, em modelos padronizados de despachos, mandados e sentenças, alguns sistemas para controle de escritórios, mas não na substituição de magistrados.
Para responder a esse argumento é necessário dizer o que é o positivismo jurídico e porque sua adotação seria nefasta ao meio jurídico. Em razão das diferentes formas de positivismos existentes, é complicado encontrar uma definição que abarque todas essas formas sem cometer injustiças. Mas, de um modo bastante popular e geral, o positivismo jurídico seria o estudo dos fenômenos jurídicos com base nas normas formais, erigidas por uma autoridade soberana, sendo independentes de aspectos morais e políticos.
A grande crítica feita ao positivismo jurídico se mostra justamente nas questões de maior complexidade, questões sociais e etc., pois, em tese, se daria uma aplicação meramente mecânica da lei, sem a possibilidade de ponderações mais sofisticadas referentes à justeza dessa aplicação. Além disso, o positivismo jurídico encontra dificuldade em lidar com os hard cases[8], que seriam os casos onde não existe previsão legal para sua resolução, casos em que é possível a aplicação de duas regras solucionadoras e outros.
Estaria assim o positivismo fadado ao insucesso. Todavia, ao considerar o atual estágio do Direito brasileiro, é possível observar algumas situações que denotam que, por vezes, “cumprir a “letra da lei” é um avanço considerável”[9].
 O primeiro exemplo está nas condições da ação, mais precisamente no que se refere à possibilidade jurídica do pedido. Enquanto condição da ação, a possibilidade jurídica do pedido limita as soluções das demandas por meio de providências que estejam, em tese, previstas em lei ou que não sejam por ela proibidas.[10] Assim, quando as partes solicitarem providências ao magistrado, ele somente poderá deferi-las caso tenha respaldo na lei, ou seja, está adstrito à lei.
Outro exemplo se faz presente nas ações declaratórias de constitucionalidade/inconstitucionalidade, que aprovam ou desaprovam determinada lei ou artigo em razão de sua contrariedade ou não da Constituição. Seguindo este entendimento, todas as leis deverão ser alinhadas à Constituição, de modo que uma disposição só é válida se respeita o preceito de alinhamento da Constituição, ou seja, está vinculada a uma determinada lei-maior.
Nestes exemplos percebe-se o apego do sistema jurídico brasileiro à teoria positivista. Se o positivismo é tão prejudicial ao Direito, porque as críticas ao sistema jurídico atual, em sua maioria, não são direcionadas ao positivismo? Dadas as constantes lutas em busca da democracia e de leis democráticas, quando estas são aprovadas, segui-las à risca é um dever.[11]
Apesar da resistência da grande comunidade jurídica, explorar a possibilidade de, em um cenário pós-humano não muito distante, seres humanos submeterem suas demandas judiciais “representados” por máquinas/softwares à apreciação de máquinas/softwares e o que isso representaria para o Direito se revela interessante para diversas problematizações no âmbito de uma filosofia contemporânea do Direito. Para isso, a busca pela compreensão do pós-humano e sua ligação com a Inteligência Artificial parece ser um caminho interessante a percorrer.
O desenvolvimento de áreas como a Inteligência Artificial e as Neurociências faz surgir diferentes abordagens em relação à forma que se entende o cérebro, a mente, consciência e ética[12], vida e morte, comunicação, as condições humanas e etc.Por tais razões, algumas disciplinas foram severamente alteradas para lidar com essas novas questões (v.g a psicologia). Aparentemente, o Direito não sofreu e não sofrerá nenhuma alteração. Será?
Máquinas fazendo a demonstração de teoremas, com publicação em importantes periódicos estrangeiros, vencendo renomados campeões em esportes que exigem raciocínio e estratégia. Máquinas dotadas de inteligência artificial estão avançando em campos que até então eram exclusivos dos seres humanos. Como ficará a condição humana diante de tamanhos avanços no âmbito da Inteligência Artificial? A atual concepção do Direito e a forma de julgamento de demandas serão alteradas? É possível estabelecer uma definição do que é artificial e do que é natural/humano? A partir de quando um humano deixa de ter essa condição e passa a ser artificial, um ciborgue ou um ser cibernético (como propõe Lucia Santaella[13])? Turing, por favor, ajude!


*Este é um resumo do trabalho apresentado entre os dias 24 e 25 de setembro de 2015 no V Fórum Integrado de Ensino, Pesquisa e Extensão da Acafe, na cidade de Concórdia-SC.

** Fonte imagem: Direito Virtual



[1]TEIXEIRA, João de Fernandes. Inteligência artificial: uma odisseia da mente. São Paulo: Paulus, 2009. p. 20.

[2]Inteligência artificial: uma odisseia da mente. São Paulo: Paulus, 2009. p. 10.

[3]Alguns autores como Fukuyama dedicam suas obras a esse cenário apocalíptico de dissolução dos seres humanos frente às tecnologias e avanços científicos. (FUKUYAMA. F. Our posthuman future: consequences of the biotechnology revolution. New York: Farrar Straus and Giroux, 2002.)

[4]Sobre a comunicação no mundo pós-humano ver MACHADO, Nivaldo. A comunicação no mundo pós-humano: consciência, mentalismo e o artificial. In: AIUB, Monica; GONZALEZ, Maria Eunice Quilici; BROENS, Mariana Cláudia (organizadoras). Filosofia da mente, ciência cognitiva e o pós-humano: para onde vamos? São Paulo: FiloCzar, 2015. p. 49-58.

[5]TEIXEIRA, João de Fernandes. Mentes e máquinas: uma introdução à ciência cognitiva. Porto Alegre: Artes Médicas, 1998. p. 13-14.

[6]STOPANOVSKI, Marcelo. Inteligência artificial de computadores poderá nos julgar? In: Revista Conjur, publicado na coluna Suporte a Litígios no dia 13 de maio de 2015, 09h55. Disponível em: <http://www.conjur.com.br/2015-mai-13/suporte-litigios-inteligencia-artificlal-computadores-julgar> Acesso em 22 de ago. 2015.


[7]SEARLE, John R. Minds, brains, and programs. In: Behavioral and Brain Sciences 3 (3): 417-457. Disponível em: Acesso em 02 de set. 2015.

[8]Sobre os casos fáceis (easy cases) e os casos difíceis (hard cases) ver DWORKIN, Ronald. Levando os direitos a sério. 3. ed. São Paulo: WMF Martins Fontes, 2010. Bem como HART, H. L. A. O conceito de direito. São Paulo: WMF Martins Fontes, 2009.

[9]STRECK, Lenio Luiz. Aplicar a “letra da lei” é uma atitude positivista? Novos Estudos Jurídicos, v. 15, n. 1, p. 158-173, 2010. p. 170.

[10]ALVIM, Arruda. Manual de Direito Processual Civil: parte geral. vol. 1., 8. ed. rev., atual. e ampl. São Paulo: Revista dos Tribunais, 2003. p. 443.
[11]Aplicar a “letra da lei” é uma atitude positivista? Novos Estudos Jurídicos, v. 15, n. 1, p. 158-173, 2010. p. 170.

[12]MÁRCIA, Avelino. Dúvidas e dilemas de um ciborgues apaixonado: reflexões éticas sobre os pós-humanos e suas relações. In: AIUB, Monica; GONZALEZ, Maria Eunice Quilici; BROENS, Mariana Cláudia (organizadoras). Filosofia da mente, ciência cognitiva e o pós-humano: para onde vamos? São Paulo: FiloCzar, 2015. p. 69-77.
[13]SANTAELLA, Lucia. O retorno em espiral do pós-humano. In: AIUB, Monica; GONZALEZ, Maria Eunice Quilici; BROENS, Mariana Cláudia (organizadoras). Filosofia da mente, ciência cognitiva e o pós-humano: para onde vamos? São Paulo: FiloCzar, 2015. p. 21.

7 comentários:

  1. "É possível estabelecer uma definição do que é artificial e do que é natural/humano?"

    que tipo de definição vocês têm em mente?
    podemos oferecer definições implícitas ou explícitas, por ostensão, contextuais, extensionais, essencialistas, analíticas.

    apresentar uma definição é bem fácil e.g. natural é o que não é artificial.

    ResponderExcluir
  2. Rafaela, Mickhael, Elizeu e Natalia, muito bom.

    DIREITO NO UNIVERSO DO SILÍCIO: O PÓS-HUMANO E INTELIGÊNCIA ARTIFICIAL

    Percebe-se o apego do sistema jurídico brasileiro à teoria positivista. O positivismo jurídico está fundado na matriz filosófica do neo positivismo lógico, enquanto ainda existem constitucionalismos assentados em bases analíticas, e outros na fenomenologia hermenêutica. “Lenio Luiz streack e André Karam Trindade”.
    Se o positivismo é tão prejudicial ao Direito, porque as críticas ao sistema jurídico atual, em sua maioria, não são direcionadas ao positivismo?
    Lenio Luiz Streck parece direcionar alguma crítica e descreve ela em: a medida que o positivismo atua no nível da semântica, tem-se a seguinte questão: aquilo que para o positivismo exsurge como um termo indeterminado (ou uma lacuna), para a hermenêutica vai aparecer como uma densidade normativa.
    Parece uma questão um tanto quanto ainda “marteladora” na cabeça das mentes ávidas do amanhã, que podem trazer ao Direito aquilo que em certa parte, para a Medicina; já foi entregue e alcançado, ou seja: o diagnóstico.
    Encontrar um diagnóstico, para a solução deste dilema, será sem dúvida um dos mais aguardados.
    Edson Stofela

    ResponderExcluir
  3. Eduardo,

    acredito que sua definição seja válida. Todavia, nos informa pouco sobre o que é o artificial e o que é natural. Talvez não deixamos claro no texto a razão da indagação “é possível estabelecer uma definição do que é artificial e do que é natural/humano?”. O questionamento foi pensado no sentido de que, em breve, com os constantes avanços de disciplinas como as Neurociências e a Inteligência Artificial, não haverá uma linha divisória muito clara entre aquilo que é considerado humano/natural e aquilo que é considerado artificial.

    Para ilustrar, vamos pensar em um ciborgue, que não é considerado totalmente humano nem totalmente artificial. Nessa simbiose entre humano e artificial. Outro exemplo, pensemos em um determinado individuo que teve seus membros substituídos por próteses. Esse indivíduo é humano ou artificial? Se for artificial, quando deixou de ser humano?

    ResponderExcluir
  4. Edson,

    de fato, o ordenamento brasileiro é marcado pelo positivismo. Apesar de sofrer sérias críticas e ser desdenhado por muitos no meio acadêmico, o positivismo ainda gera boas discussões e problemas. Muito desse desdém, acredito, seja oriundo dos manuais e resumos existentes no âmbito do Direito, que trazem uma noção rasa do que representa a teoria positivista no ordenamento jurídico.

    ResponderExcluir
  5. Que tal: "Artificial é todo elemento criado em que haja a ação de inteligência sobre as composições dos elementos pertencentes à feitura de um novo ente, e, que sem tal atividade cognitiva (no caso de humanos e de outros animais com cérebro suficientemente desenvolvido para isso) tal novo elemento não se faria existente.

    ResponderExcluir
    Respostas
    1. Saindo da inércia, e apenas pra contribuir, segue 4 linhas de definição (visto que ainda não temos um conceito totalmente aceito ligado ao termo) de sistemas de inteligência artificial:
      - sistemas que apresentam comportamento (pensam) racionalmente (com faculdades mentais através de modelos computacionais, segundo Charniak e Modermott, 1985)
      - sistemas que apresentam comportamento (pensam) como de humanos (Bellman, 1978 aborda principalmente a tomada de decisão, resolução de problemas e aprendizado)
      - sistemas que atuam racionalmente (apresentam qualquer comportamento inteligente através de processos computacional)
      - sistemas que atuam racionalmente como humanos (realizam funções que requerem a inteligência, quando realizadas por humanos - Kurzweil, 1990)
      Aceitar qualquer umas dos conceitos pode ter seu custo. No seu livro "O que é Inteligência Artificial" (e em meu entendimento) o professor João quando ele fala "é preciso que essa máquina imite nossa atividade mental (...)" parece aceitar o conceito de "sistemas que pensam racionalmente".

      Excluir
    2. Só uma curiosidade... vi que sitaram um texto do Marcelo Stopanowski (no Conjur)... sabiam que ele é de Rio do Sul (apesar de morar em Brasília a um bom tempo)?

      Excluir

Bem-vindo à discussão!