7 de julho de 2008

Homem e (ou versus) máquina?

Neste post voltamos a falar da questão homem X máquina. Temos abaixo um brilhante comentário de Cristiano Castelfranchi, renomado pesquisador de inteligência artificial do Conselho Nacional de Pesquisa da Itália. O trecho adaptado foi extraído de entrevista para a edição de abril-maio-junho de 2008 da revista Ciência e Cultura.


__________________________________________________________

CeC: Professor Castelfranchi, existe a possibilidade de termos guerras contra máquinas racionalmente mais sofisticadas que os humanos?


Castelfranchi: Eu sou um pouco cético quanto à idéia da possibilidade real da evolução biológica das máquinas, da capacidade delas virem a se reproduzir, etc. Por outro lado, acredito que o perigo real e mais próximo seja a profecia Unabomber. Ela fala que no surgimento das máquinas artificialmente inteligentes, estas seriam totalmente dependentes às nossas decisões.

Mas, conforme nossa sociedade se tornasse mais e mais complexa e as máquinas ficassem mais e mais inteligentes, começaríamos a delegar a elas certas decisões. Isto ocorreria unicamente pelo fato das decisões das máquinas levarem a resultados melhores que os obtidos por decisões humanas. Eventualmente, chegaríamos a um momento que, de tantas decisões delegadas às máquinas, mesmo que tenhamos o poder de desligá-las, acabaríamos por levar nossa espécie ao suicídio se tentássemos algo desta espécie. Isto ocorreria por causa da nossa estrutura social incrivelmente complexa, de modo que apenas máquinas seriam cognitivamente capazes de geri-la.

Este cenário previsto por Unabomber já começa a se tornar realidade. Hoje temos muitos sistemas especialistas que tomam decisões nos setores financeiro, militar e até mesmo médico. Testes mostram que sistemas de diagnóstico médico artificiais são capazes de tomar decisões mais acertadas que as de um cirurgião humano. Hoje eu ainda tenho a liberdade de perguntar algo a este sistema, ele me dá a resposta e eu decido. Mas suponhamos que daqui a 10 anos este sistema esteja aperfeiçoado, com um desempenho excelente. O que acontecerá legalmente a um médico que, confiando na sua intuição profissional, desrespeitar a sugestão da máquina e o seu paciente vier a falecer?


Entrevista feita por Luiz Paulo Juttel

Edição de Rafaela Sandrini


25 comentários:

  1. Esse tópico é interessante.

    Vamos lá!!!

    Também acredito que em breve nós dependeremos muito mais das máquinas do que agora.
    Uma prova de que as máquinas, além de mais rápidas e muitas vezes mais precisas que o homem, é aquelas fábricas onde os homens foram substituídos por máquinas. Isso confirma que o homem não é tão rápido quanto uma máquina, mesmo porque, em certos casos vários funcionários são substituídos por uma única máquina.

    Mas discordo de um ponto que o professor Cristiano Castelfranch disse, “conforme nossa sociedade se tornasse mais e mais complexa e as máquinas ficassem mais e mais inteligentes, começaríamos a delegar a elas certas decisões”, porque se o homem construiu uma máquina inteligente, que pensa, e que pode tomar decisões, então esse mesmo homem é muito mais inteligente que a máquina, e por sua vez, poderá decidir certas coisas, melhor que ela.

    “Testes mostram que sistemas de diagnóstico médico artificiais são capazes de tomar decisões mais acertadas que as de um cirurgião humano”. Essa frase também pode ser vista de dois ângulos.
    Se o cirurgião for bem preparado, estudado, que ame o que faz e que acima de tudo seja ético, ele poderá sim, tomar decisões sem erro. Agora se o cirurgião for um relaxado, que não estuda, e que só exerce a profissão por dinheiro, esse sim deve escutar a máquina. Ou então deixar a função.

    ResponderExcluir
  2. Felipe...

    Você expõe dois argumentos que acredito possuírem falhas. O primeiro eu rebateria com um nome: Deep Blue. Você acha que os engenheiros que o criaram ganhariam dele em uma partida de xadrez? O melhor do mundo (Gasparov) tentou e não deu conta. Uma máquina inteligente é um trabalho de muitas pessoas e geralmente um trablaho de anos. O resultado final é bem superior à inteligência única de um de seus criadores.

    No segundo argumento eu diria que é claro que podemos ter um médico que dê diagnósticos tão bem quanto a máquina, mas para isso ele precisaria estudar 10 anos de medicina, no mínimo. Sem contar o fato de que você, ou as demais pessoas doentes, trocaria o certo (a máquina), pelo duvidoso? Eu não. Além disso, a máquina pode dar diagnósticos em diversas especialidades, o médico em apenas uma. Acho que é uma comparação desonesta.

    Em resumo, na minha opinião, a profecia Unabomber do professor Castelfranchi faz todo o sentido.

    ResponderExcluir
  3. Luiz...

    Parando para pensar, não tinha parado para pensar que são várias cabeças que fazem uma máquina.
    Mas será que o homem jamais conseguirá "vencer" a própria criação?

    Eu ainda acredito que existam pessoas capazes de controlar as máquinas.

    Não só acredito, como penso que deveria existir, porque senão, no futuro seremos subordinados das nossas próprias invinções.
    Seremos escravos das máquinas que um dia criamos para nos salvar.

    Mas se eu errei no tópico anterior, desculpe, vou rever meus conceitos.

    ResponderExcluir
  4. Correção da Primeira Frase

    Onde se lê "Parando para pensar, não tinha parado para pensar que são várias cabeças que fazem uma máquina."
    Lê-se Parando para pensar, não tinha percebido que são várias cabeças que fazem uma máquina".

    ResponderExcluir
  5. Prezados,

    O texto apresentado é claro e cauteloso! Isso é fundamental para podermos falar de um assunto que caminha a passos largos e em aceleração no que se refere a convivência humana com entidades mecatrônicas/robóticas/andróides/sisistemas inteligentes...

    ResponderExcluir
  6. Luiz Paulo

    Muito interessante a entrevista, e confesso que me sinto numa espécie de era do holocausto quando penso que um dia as máquinas poderão sim substituir as ações humanas.

    Embora o alcance de uma tecnologia que faça do homem um mero subordinado ainda estar longe de acontecer, temos que ser realistas e levar em conta a precisão dos avanços tecnológicos. Que o futuro nos aguarde!

    ResponderExcluir
  7. Lu

    Quando você começa a analisar essas questões acho difícil não mentalizar um cenário escatológico.

    Essa é uma discussão que bastante me interessa. E olha que, como diz o Nivaldo, nem chegamos a falar de ciborgues, andróides ou afins...

    ResponderExcluir
  8. Quando no texto fala:"as maquínas vierem a se reproduzir", é como se elas adquirissem consciência, mente. Se elas chegarem a isso é por que de alguma maneira o homem fez com que ela chegasse a tal ponto. Antes disso acho que o homem tería resolvido o problema mente-cérebro e tería provado que mente nada mais é que estado cerebral, um estado físico. Ou então teríamos de admitir que algo de sobrenatural tivesse acontecido para que as máquinas tivessem adquirido mentes, algo mágico, sei lá, o que para mim é impossível. Mas o homem teria de admitir que mente sería uma coisa e cérebro outra.De outra meneira máquinas só se reproduziriam(no sentido de construir é claro)se fossem programadas para isso.Quanto a elas serem mais precisa que o homem, isso é com certeza, acho que pelo fato de justamente não terem consciência(não tem pena de ninguém, não tem raiva, não fica na dúvida), você joga os dados, ela procesa e te da o resultado.

    ResponderExcluir
  9. Lulu e Luiz

    Também fico pensando em como poderia ser turbulento esse cenário.
    Porque apesar de até virem em nosso auxilio (como o caso dos sistemas especialistas em diagnóstico médico), muitos desses sistemas poderiam em breve ocupar papéis humanos. Muitas profissões mudariam drasticamente, ou quem sabe até desapareceriam. E essa é uma idéia que soa como uma ameaça para nós seres humanos.
    Apesar das máquinas estarem longe da versatilidade humana para atividades específicas....as pesquisas e o desenvolvimento tecnológico tornam cada vez mais plausível a relação homem-máquina.

    ResponderExcluir
  10. Quanto a evolução das pesquisas ninguem pode contestar, gostaria de saber é por quem,como e quando(com que velocidade) o "mercado capitalista selvagem" decidirá colocar em prática as soluções encontradas. Aproveito e comunico esta notícia do Jornal DC de hoje: A Grande Florianópolis poderá sediar o primeiro cluster de neurotecnologia do mundo. A Cidade Pedra Branca, de Palhoça, e o Sapiens Parque estão articulando a iniciativa com apoio do governo do Estado, que visa a reunir educação, saúde e tecnologia.

    A iniciativa tem apoio do presidente da Fapesc, Antonio Diomário Queiróz. A Pedra Branca quer ajudar na criação de um "hospital do cérebro", diz o empresário Valério Gomes Neto, presidente do empreendimento.

    ResponderExcluir
  11. Glauco,

    Sinceramente não acredito tanto num capitalismo selvagem (creio sim na selvageria de algumas pessoas!!). Mas, mercadologicamente falando é altamente interessante investimentos nesta área e de sua disponibilização para diversas classes sociais (aqui bem ao estilo do bom e velho Marx!!). Note, as diferenciações sociais absurdas como temos no Brasil levam a criação de bolsões de pobreza que acabam gerando problemas sociais caros demais para os seus responsáveis (criminalidade, fobias sociais...).

    Investir em tecnologia e principalmente nesta área acredito nem mais ser uma questão só social como tb de competitividade.... Senão, mais uma vez... ficaremos no tempo das caravelas!!

    ResponderExcluir
  12. Sim Nivaldo, realmente não podemos generalizar, o capitalismo é salutar para muitas ocasiões, o grande problema é que as pessoas bem intencionadas e com potencial de investimento não tenham a oportunidade ou conhecimento (falta de comunicação) de investir para estes projetos serem canalizados para um bem coletivo seja social ou competitivo.

    ResponderExcluir
  13. A respeito da questão de os seres humanos criarem máquinas de maior inteligência ou potencial, que são capazes de tomar decisões tão acertadas, ou mais que o homem, até que ponto. Confiaria sim um diagnóstico a uma máquina do que a um médico que não conheço sua experiência e seriedade, mas confiaria uma decisão jurídica a uma maquina que foi programada para decidir? Será que a máquina conseguiria julgar uma pessoa tão bem quanto outra? Seria possível criar uma máquina que o principal propósito é conhecer o ser humano mais que ele próprio conhece, para tomar decisões mais precisas?

    ResponderExcluir
  14. julieti,

    nao vejo o por que nao apostar numa futura máquina capaz de tomar decisões judiciais no lugar de juizes. Mês passado eu li uma materia da revista Mente Cerebro que demostrava que as decisões humanas são muito mais emocionais do que racionais... ou seja, a justiça pode estar sendo movida muito mais pelo lado emocional do que pelo racional. Sendo assim, as máquinas tomariam decisões apenas pelo racional, o que deixaria-nos livre de possiveis enganos.. todavia.. doravante ..devemos atentar para o fato de que nem sempre o que nos comove é o certo.

    ResponderExcluir
  15. Eduardo,

    Você está dizendo que os juízes robos, seriam mais severos em relação as decisões judiciais.
    Agora me responda, se um condenado por danos morais, é julgado por uma pessoa, e este juíz se comove com o que a vítima sofreu, ele condena o homem.
    Agora a máquina, que não tem sentimentos, condenaria ou não o acusado?

    ResponderExcluir
  16. veja bem Felipe,
    na minha interpretação na justiça a emoção não deve ser levada em conta quando se for julgar um caso. Devem ser levados em conta os fatos e os dados empíricos, e apenas estes.
    Em seu exemplo SE o homem fosse induzido a tomar alguma droga que o deixasse feliz, quando fosse dar o depoimento o culpado neste caso, não seria condenado.

    ResponderExcluir
  17. Mas meu jovem, veja bem.
    Não podemos julgar tudo pelo lado impírico. Muitas vezes somos obrigados a agir pelos sentimentos. Ex.: Você é agredido verbalmente e processa o agressor. Como o "juíz robo" poderá julgar este caso, que envolve o lado emocional da vítima, se ele (o robo) não tem sentimentos e age apenas racionalmente?

    Responda-me meu jovem.

    ResponderExcluir
  18. o uma avaliação do comportamento desta pessoa pode ser de grande valia para inferir se esta está "abalada emocionalmente", e neste caso minha aposta é de que no futuro esta avaliação seja feita por um computador, atravéz dos dados empíricos coletados, e sendo assim o nosso "juiz mecânico" seria sim capaz de uma avaliação muito refinada!
    Todavia, acredito que este tipo de julgamento possa ser sim muito bem feito por um juiz humano, uma vez que este recebe apoio de um bom psicólogo para lhe fornecer uma avaliação psicológica cabível, pois por mais que o juiz seja alguém muito bem preparado, no lado do "dano moral" o psicólogo é quem tem maior preparo.

    ResponderExcluir
  19. (claro que esta avaliação nao pode ser nada daquelas em que pode-se levar ANOS para se ter uma resposta) HAHAHA

    Queremos uma justiça pragmática.

    ResponderExcluir
  20. O homem há anos vem buscando aparelhos e máquinas com objetivo de lhe auxiliar e até mesmo lhe substituir em muitas funções e áreas. E com o passar dos anos isso tem se intensificado cada vez mais, chegando a ponto de cogitarmos a hipótese de ela não só nos substituir nas atividades, mas também nas tomadas de difíceis decisões, as quais seriam factíveis de graves conseqüências como a citada ao final do texto do professor Cristiano Castelfranch. Em que uma divergência de um médico frente a máquina poderia levar o paciente a morte, e neste caso qual seria a culpa deste profissional? E se este seria penalizado. Frente a esta indagação, eu como médica teria uma visão diferente das apresentadas acima, pois levaria em consideração fatores intrínsecos ao paciente, como a imprevisibilidade de poder computar com exatidão a reação de um procedimento qualquer, (por mais banal que este possa se apresentar). Outro ponto de fundamental importância seria ter com precisão a capacidade de acertos e erros desta maquina frente a decisões sugeridas pela mesma, e por fim afastar primeiramente não somente uma divergência de condutas passíveis de serem realizadas, e distinguí-las de erros médicos, e por fim o real quadro clínico do paciente em questão. Exemplificando os fatores de interferência que poderiam alterar a culpabilidade do profissional:

    1. Fatores intrínsecos aos pacientes – na prática diária da medicina percebe-se que pacientes com perfis de saúde idênticos podem evoluir distintamente ao mesmo procedimento, havendo uma imprevisibilidade de como o paciente irá reagir. Um ótimo exemplo é o choque anafilático à medicamentos, o qual é imprevisível. Claro que com o avanço da ciência na área da genética a tendência é diminuir cada vez mais esta imprevisibilidade, porém não podemos ignorar sua existência.

    2. A capacidade de acertos e erros da máquina – todo aparelho ou teste apresenta algo que se calcula e é denominado de sensibilidade e especificidade do método para o que se pretende executar, o mesmo é válido para tal indagação. Pois nos proporcionará maior ou menor confiabilidade no método. Exemplo a tomografia computadorizada (TC), a mesma possui maior ou menor confiabilidade dependendo da regiao anatômica que se pretende estudar, e mesmo sendo ela um método de diagnóstico de imagem moderno e confiável ele pode não identificar certas alterações, as quais são fundamentais para a escolha ou tamada de conduta. Perceptível quando pretendemos realizar uma TC para screening de doença oncológica, e a mesma não identifica lesões que contra-indicariam a tentativa de uma cirurgia curativa, como os implantes peritoneais, e o paciente é submetido a uma cirurgia desnecessária.

    3. Quadro clínico do paciente é imprescindível. Pois não é incomum presenciarmos o falescimento de pacientes onde independente da conduta realizada, o mesmo evoluiria ao óbito. Exemplo detes seriam os pacientes com doenças terminais, ou com múltiplas comorbidades associadas, onde a responsabilização exclusiva do médico seria muito controversa, já que somos seres humanos e, portanto mortais. E a máquina neste caso talvez seria útil na obtenção de prolongamento da expectativa de vida associada a qualidade de vida.

    Como se pode observar as problematizações éticas dificilmente possuem respostas rápidas e exatas, neste caso, excetuando um erro médico evidente, o caso teria de ser mais bem detalhado e avaliado para poder caracterizar a culpabilidade do médico ou mesmo caracterizar um erro médico. No entanto, sabe-se que nosso futuro próximo estaremos entrelados realmente nestes questionamentos, pois a tendência é a máquina cada vez mais se tornar apta a tais tomadas de decisões pelos homens.

    ResponderExcluir
  21. O mundo evolui, para que cada vez mais dependêssemos de uma inteligência artificial para fazer tudo e nos deixar em um certo comodismo. Nós já dependemos delas agora, e dependeremos também para tomar decisões. Pois se o problema da vaca amarela ser resolvido, e de soubermos o que uma outra pessoa está pensando, vamos simplesmente obedecer esta inteligência e tomar as decisões influenciadas por ela.

    ResponderExcluir
  22. Caroline,

    São altamente pertinentes todas tuas colocações.
    Todavia, uma das principais tarefas da ciëncia é justamente diminuir ao máximo o grau de decisões com possibilidade de nterferëncia subjetiva... mas entendo o quão longe ainda estamos disso em algumas áreas; é claro, em outras o avanço é incontestável. A grande questão que se apresenta hoje são alguns freios moralistas (aqui no sentido de argumentos pejorativos emitidos por pessoas que de ciëncia não entendem muita coisa....(e como existem! rsrssss))

    ResponderExcluir
  23. Ótima temática!!! Gostei e muito deste comentário do professor Castelfranchi. Dizer que num cenário futurista estaremos dependentes de máquinas não é nem um pouco equivocado, pelo contrário, é uma verdade quase que absoluta.Hoje em dia já guardamos uma ampla relação de interdependência com a tecnologia, por exemplo, imagine você assistindo TV sem controle remoto ou ainda, imagine você e o restante da população sem um simples telefone celular. Parece simples, mas para muitos seria uma situação quase que intolerável nos dias de hoje.
    Assim, não obstante quando já tivermos um amplo desenvolvimento da inteligência artificial, não tenho dúvidas de que estaremos atingindo a profecia Unabomber do professor Cristiano, uma vez que esta ampla relação de interdependência mudará de ampla para absoluta interdependência, com ressalvas é claro.E tenho a certeza de que não estamos distantes disso, outro exemplo: avanços na robótica são evidentes e são notícias de manchetes quase que semanais, mas o que me chamou a atenção foi o desenvolvimento de biocomputadores, com a utilização de chips metálicos e neurônios vivos de sanguessuga(manchete de alguns anos atrás). Agora imaginem se utilizassem neurônios de golfinhos, o boato que soa por aí não é de que eles são mais inteligentes que nós humanos? Não seria mais um motivo para delegarmos a elas certas decisões? Rsrsrss
    Como médico, não poderia deixar de fazer um comentário a respeito da última frase da entrevista. Presume-se que um médico que confie na sua intuição profissional tenha amplo conhecimento sobre aquilo que esta fazendo, correto? Para este médico erros também podem vir a acontecer embora sejam mais raros ou pelo menos em proporções menores a média. Se este médico tem como provar suas indicações para um determinado procedimento que deu errado, ainda poderá abster-se da culpa em relação à máquina pois pode utilizar de um elemento que inteligência artificial nenhuma dispõe, que é empatia e uma boa relação médico paciente. Mas uma coisa é óbvia, se num futuro próximo, vamos supor 2030, eu estiver doente e tiver duas opções de consulta, na qual a primeira seja um experiente clínico com acerto médio 97 % dos seus diagnósticos ( imaginem um Dr. House, quase um lendário da medicina pela precisão diagnóstica ) e a segunda seja uma máquina com acerto médio de 99% dos seus diagnósticos(desempenho excelente), claro que consultarei com a máquina, afinal de contas o ditado que corre por aí diz: "errar é HUMANO". Rsrssrs
    Abc

    ResponderExcluir
  24. Junior (rsrsrsss),

    Só é interessante teres cautela pois o termo psicológoco empatia pode também muito bem ser aplicado a outros animais não-humanos e existe um número bastante significativo de pesquisadores que apresentam a possibilidade da empatia ser um atributo linguístico e, assim sendo, compossibilidade de ser simudado artificialmente!

    A grande questão é que os seres humanos fizeram a escala axiológica e, como portadores do poder da caneta em punho, deram a si o poder de figurar no topo! (mas, figurante é sempre figurante!)

    ;)

    ResponderExcluir
  25. As máquinas concerteza iram substituir o lugar de muitos humanos, pois como o Luis Paulo resaltou a Felipe" Uma máquina inteligente é um trabalho de muitas pessoas e geralmente um trabalho de anos".
    Assim, imagina a "inteligencia" e a capacidade que essa máquina será programada.

    ResponderExcluir

Bem-vindo à discussão!