*Por Murilo Karasinski
No dia 26 de setembro de 1983, Stanislav Petrov, um tenente-coronel soviético, estava em seu posto de monitoramento dos sistemas de alerta nuclear quando recebeu um aviso preocupante. O painel indicava que cinco mísseis nucleares haviam sido lançados dos Estados Unidos em direção à União Soviética. Petrov tinha apenas poucos minutos para decidir se acionava ou não a cadeia de comando que levaria a um contra-ataque nuclear. A tensão era enorme, especialmente em um período marcado por forte desconfiança entre as duas superpotências. Petrov, porém, desconfiou da informação fornecida pelos sistemas automáticos. Embora os protocolos exigissem uma resposta imediata diante da ameaça detectada, ele avaliou que um ataque real provavelmente envolveria um número muito maior de mísseis. Ao invés de acionar seus superiores, decidiu aguardar, confrontando o risco de uma decisão errada com a possibilidade de uma falha tecnológica. Durante minutos que pareceram eternos, Petrov manteve-se calmo e esperou por outras evidências antes de reportar o incidente.
Mais tarde, ficou claro que a suposta ameaça não passava de um erro provocado por reflexos solares nas nuvens, interpretados pelo sistema como lançamentos de mísseis inimigos. A decisão corajosa de Petrov evitou um conflito nuclear que poderia ter mudado a história da humanidade. Apesar da importância do que fez, Petrov nunca recebeu reconhecimento oficial por sua atitude, e seu papel decisivo permaneceu relativamente desconhecido até muitos anos depois do incidente.
O caso de Petrov serve como exemplo claro dos desafios éticos e das limitações que podem ocorrer quando decisões importantes são delegadas aos sistemas automatizados. Sua atitude não foi simples desconfiança, mas uma leitura sensível do que significa interagir com sistemas inteligentes. Isso porque a inteligência digital não está sendo apenas criada, mas está coevoluindo com os seres humanos. As fronteiras entre sujeito e sistema se tornam porosas, e as tecnologias moldam nossas escolhas, organizam nosso cotidiano e interferem na maneira como percebemos o mundo. Nesse contexto, a pergunta fundamental é por que continuar controlando a evolução tecnológica como se ela estivesse separada de nós. Talvez seja hora de pensá-la como um processo pós-darwiniano, onde a seleção ocorre entre sistemas híbridos, conectados e interativos.
Assim, talvez o que esteja em jogo hoje não seja a humanização da tecnologia, mas o reconhecimento de que já estamos alterados por ela. O discurso sobre humanizar pode soar vazio se ignorarmos o quanto já nos tornamos outros nessa relação. É importante perceber, como aponta Luciano Floridi, na obra A Ética da Inteligência Artificial (PUCPRESS), que a revolução digital já aconteceu. Essa é a verdade mais profunda que marca o nosso tempo. Diferentemente de outras transições históricas, a mudança de um mundo analógico e offline para uma realidade digital e conectada é irreversível. A geração atual é a última a ter conhecido um mundo não digital, e isso nos coloca diante de uma responsabilidade única. O desembarque na infosfera não é uma simples metáfora, mas a constatação de que vivemos, pela primeira vez, num ambiente construído por informações, interações e inteligências artificiais que moldam o presente e o futuro.
Logo, a ética da inteligência artificial não pode ser acessória, tardia ou contemplativa. Ela precisa ser propositiva e orientadora. Não basta questionar se os caminhos tomados pela inovação digital são certos ou errados. A ética digital deve antecipar e orientar o desenvolvimento da tecnologia, respeitando três critérios sucessivos: viabilidade, sustentabilidade ambiental e aceitabilidade social. A partir daí, será possível discutir o que é preferível coletivamente. Essa ordem de prioridades impede que decisões críticas sejam pautadas apenas por interesses econômicos, pelo fascínio técnico ou pela lógica da urgência.
Ademais, tratar a ética como um sistema de alerta precoce significa reconhecer que riscos previsíveis devem ser evitados antes que se tornem danos irreversíveis. Algumas falhas não são corrigíveis, e certas oportunidades perdidas não se recuperam. Qualquer mal evitável que venha a ocorrer é, por definição, um fracasso ético. Por isso, as organizações que assumem uma abordagem ética da IA obtêm vantagem dupla: diminuem seus riscos ao mesmo tempo em que aumentam sua legitimidade. Não é exagero dizer que o custo do engajamento ético é amplamente compensado pelo valor de sua contribuição.
Além de diagnosticar, é preciso agir. As tarefas éticas mais relevantes envolvem apontar os problemas, construir engajamento com os afetados, imaginar soluções compartilháveis e colocá-las em prática. Qualquer iniciativa que se detenha apenas em recomendações genéricas corre o risco de ser tímida.
Por fim, conhecer profundamente um conteúdo não é simplesmente ser capaz de repeti-lo. Não basta saber sobre algo, é necessário saber com esse algo, manipulando suas estruturas internas, percebendo suas tensões, explorando seus mecanismos. Nesse sentido, como defende Floridi, escrever uma boa entrada na Wikipedia é algo cada vez mais automatizável. Um modelo de linguagem pode fazer isso com competência. Mas corrigi-la exige uma compreensão que vai além da forma. Saber identificar onde está o erro, onde o argumento escorrega, onde o exemplo simplifica demais ou onde o conceito foi mal interpretado é sinal de domínio. E é isso que diferencia a repetição do pensamento. Nesse novo cenário, em que modelos generativos produzem sínteses com velocidade e coesão, o exercício ético mais relevante talvez seja o de não aceitar o conteúdo como definitivo, mas manter vivo o compromisso com sua revisão contínua.
Petrov nos mostrou que o humano ainda importa, não como controle absoluto, mas como presença em meio a sistemas que aprendem, erram e decidem. Importa como alguém que, ao interagir com uma máquina, soube reconhecer os limites tecnológicos e confiar na própria intuição, questionando a decisão automatizada. O que teríamos feito se estivéssemos no lugar de Petrov? Que ser humano é este que emerge da simbiose com a inteligência artificial?
*Murilo Karasinski é pós-doutor em Bioética, doutor em Filosofia e bacharel em Direito. Atua como professor no Programa de Pós-Graduação em Bioética da Pontifícia Universidade Católica do Paraná (PUCPR). É também coordenador da Educação Continuada da Escola de Educação e Humanidades e membro do Observatório de Inteligência Artificial no Ensino Superior da PUCPR. Pesquisador de temas relacionados à Inteligência Artificial, Neuroética, Bioética e Transumanismo.
