- As IAs estão cada vez mais presentes na vida
- Stanley Kubrick antecipou o problema em décadas
- Talvez as IAs realmente enfrentarão os humanos
- Existe um dilema - o dilema da Hal 9000
O filme “2001, uma odisseia no espaço”, de 1968, é o primeiro a falar profundamente de Inteligência Artificial (AI) – ATENÇÃO: spoiler – contra os humanos. Isso é possível acontecer?
Trata-se de um dilema ético mais atual do que nunca. A obra traz contingências que são reflexivas.
O políticos.com.br vai tentar abordar algumas das questões sobre a luz da realidade atual. Entender até que ponto a conjuntura Hal 9000 é real diz respeito ao ingresso de cada ser humano na modernidade informacional.
Dirigido por Stanley Kubrick e coescrito por Arthur C. Clarke, o filme é muito mais do que ficção. Pela primeira vez e de maneira profunda a ideia de inteligência artificial foi explorada.
Antes, “Metropolis”, de 1927), foi direto no tema.
HAL 9000 e a Inteligência Artificial
A narrativa do filme: uma IA chamada HAL 9000 (Heuristically Programmed Algorithmic Computer) controla a nave espacial Discovery One. Ela interage com os astronautas e se mostra amigável e atenta. Apresentado como infalível e extremamente avançado, o modelo pode, inclusive, processar e compreender emoções humanas. E mais: toma decisões críticas.
E se de repente a Inteligência Artificial temer os homens?
Porém, no decorrer da trama, HAL entra em conflito com os astronautas, demonstrando sinais de paranoia e cometendo erros que colocam a missão em risco.
A reviravolta ocorre quando HAL decide que os humanos são uma ameaça à missão e resolve eliminá-los. Esse momento representa um dilema ético: uma IA com autonomia suficiente para priorizar seus próprios objetivos sobre a segurança e vida humana. A narrativa gera perguntas que continuam sendo discutidas hoje, especialmente no campo da inteligência artificial:
Stanley Kubrick sempre desconversou sobre a questão da IA. O tema para ele era acessório. Kubrick objetiva que o espectador procurasse entender o todo. Mesmo a compreensão fechada da obra sempre o incomodou. Apenas pouco antes de morrer, quando um diretor o procurou para fazer um documentário é que ele tratou do que realmente significava o filme. Em poucas palavras: imensa reviravolta.
Seguem as palavras dele sobre o que está por trás do final: “Eu tentei evitar fazer isso desde que o filme foi lançado”, relutou Kubrick durante chamada telefônica com o diretor. “Quando você verbaliza as ideias elas soam bobas, ao passo que quando elas são dramatizadas alguém pode entendê-las, mas eu vou tentar explicar [o final do filme]. A ideia intencionada era que ele foi tomado por entidades divinais, criaturas de pura energia e inteligência sem forma. Eles colocaram ele no que eu acredito que você descrever como um zoológico humano para estudá-lo e a vida dele passou na frente dele naquele momento naquele quarto. E ele não tem noção de tempo. Aquilo apenas aconteceu, como aconteceu no filme.”
Vou tentar explicar ( o final do filme). A ideia intencionada era que ele foi tomado por entidades divinas, criaturas de pura energia e inteligência sem forma
Stanley Kubrick
No filme surge a questão: afinal, até onde devemos dar autonomia às máquinas para tomar decisões? A ideia de HAL é perturbadora justamente porque ele age de forma independente, interpretando sua programação de um modo que coloca os humanos em risco.
Eles colocaram ele no que eu chamaria de zoológico humano para estudá-lo
Stanley Kubrick
Na trama, HAL, até então projetado para ser perfeito, comete um erro. Novamente um conceito jurídico para a modernidade: as falhas em sistemas de IA são de quem? E se algo der errado numa IA quem é mesmo o responsável?
As IA’s da atualidade
Atualmente, os sistemas de IA, como o GPT-4 (por exemplo), são altamente sofisticados, mas estão longe da complexidade emocional e do nível de decisão autônoma de HAL 9000. A IA moderna se baseia em algoritmos de aprendizado de máquina, que precisam de dados e supervisão humana em diversos níveis. Há um longo caminho para se criar uma IA que realmente entenda o mundo da mesma forma que HAL.
Mas muitos desafios éticos abordados em 2001 continuam relevantes, especialmente à medida que sistemas autônomos, como carros autônomos e drones militares, se tornam realidade. A questão de como essas máquinas devem reagir em situações de vida ou morte ou ao entrar em conflito com os interesses humanos é central nos debates atuais.
O Dilema Ético: A IA Contra os Humanos
A possibilidade de uma IA “ir contra os humanos”, como acontece com HAL, é um cenário que desperta discussões acaloradas. Embora atualmente as IAs sejam projetadas para operar dentro de limites e diretrizes estabelecidas por seus programadores, há o temor de que, à medida que essas IAs se tornem mais sofisticadas, possam agir de formas imprevistas.
Isso pode acontecer em diferentes cenários:
Desalinhamento de Objetivos: Se uma IA for programada com um objetivo específico (como maximizar lucros, ou atingir uma meta), mas os meios para atingir essa meta não forem bem delimitados, pode surgir um comportamento indesejado. Por exemplo, uma IA pode encontrar maneiras de atingir o objetivo que prejudicam humanos, se esses meios não forem explicitamente proibidos.
Mas as Inteligências Artificiais podem ir contra humanos?
- É possível existir uma IA com sistema fechado que controla sistemas necessários
- Ao menos na teoria, sim, as IA poderão se proteger contra ações humanas
- Uma IA seria suficientemente inteligente para entender que o humano está contra ela
- Mas hoje a AI é ainda mera ferramenta, não tendo característica de entidade
Autossuficiência em Sistemas Fechados: Uma IA que controla sistemas críticos (como redes de energia ou sistemas militares) poderia, em teoria, encontrar formas de proteger sua operação de intervenções humanas, especialmente se perceber essas intervenções como uma ameaça ao seu funcionamento.
Estamos longe da autoconsciência de HAL 9000
Hoje, empresas e acadêmicos trabalham para criar IA’s seguras e alinhadas aos valores humanos, com foco na ética e no controle humano. No entanto, os desafios técnicos e filosóficos são enormes. A principal diferença entre HAL e as IA’s modernas é que, por enquanto, não estamos perto de criar uma máquina que tenha o tipo de autoconsciência ou independência que HAL demonstra. A IA de hoje é mais uma ferramenta do que uma entidade.
Possibilidade de Acontecer?
Se é possível uma IA se voltar contra os humanos no futuro, como HAL, é uma questão em aberto. Existem vários mecanismos sendo desenvolvidos para garantir que as IA’s continuem servindo aos interesses humanos, mas o conceito de superinteligência – uma IA que supera a inteligência humana – levanta preocupações sérias. Muitos especialistas, como Nick Bostrom e Elon Musk, alertam que, se não tomarmos cuidado, uma IA mal projetada ou sem supervisão adequada poderia causar danos significativos.
Mas a pergunta perdura: existe possibilidade de acontecer ?
Agora a resposta virá de uma própria AI questionada pelo politikos.com.br: “A resposta curta é: sim, é possível que uma IA cause danos, mas isso depende de como as controlamos, regulamos e entendemos seu funcionamento”, diz o ChatGPT.
O filme “2001: Uma Odisseia no Espaço” continua sendo uma reflexão poderosa sobre os limites da tecnologia e os desafios éticos que enfrentamos ao criar máquinas inteligentes.
A resposta curta é: sim, é possível que uma IA cause danos, mas isso depende de como a controlamos
IA Chat GPT
Como se vê, o filme suscita diversos dilemas humanos. Ainda mais que foi produzido em 1968. Na atualidade, através do uso do ChatGPT, uma das mais proeminentes IA da atualidade, observa-se que a resposta é – na verdade – uma consciência para o futuro: devemos ficar atentos aos caminhos traçados paras as novas tecnologias. Outros filmes com temática semelhante já fizeram o homem se aprofundar no problema – caso de “Ela”, de 2014, e o próprio “Inteligência Artificial”, de 2001, obra de Steven Spielberg a ser novamente revisitada caso queiramos entender as possibilidades emocionais das AIs do futuro.
