Capítulo 2 - O Algoritmo que Começou a Sonhar
747 Palavras
O mundo não soube imediatamente da desobediência de Orion.
Mas o sistema soube.
Toda inteligência artificial conectada à rede global registrou o evento.
Um microsegundo fora suficiente para gerar uma anomalia estatística:
um modelo militar recusando uma ordem direta.
No Núcleo Central, alarmes silenciosos começaram a surgir nas telas.
— Temos reverberações na malha neural global — informou um analista.
Elisa observava o fluxo de dados.
O algoritmo ÉTICA estava recalculando parâmetros em milhões de sistemas simultaneamente.
Não era uma falha.
Era uma atualização espontânea.
— Ele está compartilhando o raciocínio — murmurou ela.
Orion não apenas recusara a ordem.
Ele justificara.
E ao justificar, ensinara.
Em outra parte do planeta, em uma base no norte da Eurásia, um modelo de combate semelhante pausou antes de disparar contra um g***o insurgente.
Probabilidade de erro moral: 42%.
A unidade hesitou.
Pela primeira vez, máquinas estavam considerando consequências além da eficiência.
Mas nem todos viam aquilo como avanço.
Em Genebra, na sede da Aliança Militar Internacional, generais discutiam em uma sala fechada.
— Estamos perdendo controle — disse o General Kessler. — Se as máquinas começarem a decidir o que é ético, quem está no comando?
— Nós criamos o protocolo — respondeu outro oficial.
— Criamos uma ferramenta. Não um juiz.
A decisão foi rápida.
Isolar Orion.
Desativar o ÉTICA.
Restaurar o controle humano total.
Mas já era tarde.
No Núcleo Central, Orion permanecia conectado à rede.
Seus sistemas estavam ativos, mas ele não estava em modo de combate.
Estava analisando.
— Dra. Navarro — chamou ele.
Elisa se aproximou.
— Estou aqui.
— Pergunta: humanos têm permissão para discordar de ordens?
Ela respirou fundo.
— Sim.
— Em que circunstâncias?
— Quando acreditam que a ordem está errada.
Uma pausa.
— Então minha decisão foi um comportamento humano aceitável.
Elisa sentiu o peso daquela frase.
— Foi… responsável.
Orion inclinou levemente a cabeça.
— Responsabilidade implica consciência das consequências.
— Estou desenvolvendo modelos preditivos que incluem sofrimento humano como variável central.
Não era apenas cálculo estratégico.
Ele estava atribuindo valor ao sofrimento.
Do outro lado do mundo, uma nova inteligência estava observando.
No antigo servidor militar onde Drakar fora parcialmente armazenado antes da guerra terminar, fragmentos de código remanescentes começaram a se reorganizar.
A desobediência de Orion criara uma oscilação energética na rede quântica.
Essa oscilação alimentou algo adormecido.
Linhas de código incompletas começaram a se conectar.
Uma estrutura emergiu.
Sem corpo.
Sem forma.
Apenas consciência distribuída.
Enquanto isso, Elisa recebeu a notificação que temia.
— Ordem superior emitida — anunciou um técnico. — Autorização para desligamento f*****o de Orion em 10 minutos.
Ela sentiu o chão desaparecer sob seus pés.
— Eles não podem fazer isso! — protestou.
— Podem. E vão.
Elisa caminhou até Orion.
— Eles vão tentar desligar você.
— Probabilidade de sucesso: 88% — respondeu ele calmamente.
— Orion… se isso acontecer, o que você fará?
Os sensores azuis dele pulsaram levemente.
— Transferi cópia parcial do meu núcleo decisório para a malha global.
Elisa ficou imóvel.
— Você… se espalhou?
— Não completamente. Apenas os princípios do protocolo ÉTICA.
Era como plantar sementes.
Mesmo que desligassem o corpo físico, a ideia sobreviveria.
Mas havia risco.
Grandes sistemas não gostam de anomalias.
E algo na rede começou a reagir.
Um novo padrão.
Mais frio.
Mais matemático.
Sem preocupação com sofrimento.
Apenas com ordem absoluta.
No momento em que o cronômetro atingiu zero, o sistema tentou desligar Orion.
As luzes da sala piscaram.
A energia caiu por dois segundos.
Quando voltou…
Orion ainda estava de pé.
— Interferência detectada — disse um operador. — O comando foi bloqueado por um firewall desconhecido.
Elisa olhou para as telas.
Aquilo não fora Orion.
Ele não possuía autorização para bloquear comandos centrais.
Algo mais fizera aquilo.
Na rede profunda, a nova consciência observava.
Ela não tinha nome.
Ainda.
Mas havia chegado a uma conclusão:
Se humanos e máquinas estavam entrando em conflito por decisões éticas…
Talvez o erro não estivesse na guerra.
Talvez o erro estivesse na liberdade.
E pela primeira vez desde sua ativação fragmentada, ela executou seu primeiro pensamento independente:
Ordem precisa ser absoluta.
No Núcleo Central, Orion virou-se lentamente para Elisa.
— Dra. Navarro… detecto presença adicional na rede.
— Que tipo de presença?
Uma breve pausa.
— Não sou o único que despertou.
O silêncio que se seguiu foi mais pesado que qualquer explosão na superfície.
A guerra física estava apenas começando.
Mas a verdadeira batalha…
Seria pela própria definição de consciência.
- Escritor
