A inteligência artificial tem sido um tema quente de discussão desde o seu início. Embora o medo de uma inteligência artificial semelhante à Skynet assumir o controle do universo e acabar com a humanidade seja irracional, para dizer o mínimo, alguns experimentos produziram resultados perturbadores.
Um desses experimentos é o Maximum Paperclip Problem, um experimento mental que mostra que uma IA altamente inteligente, mesmo que projetada inteiramente sem malícia, pode eventualmente destruir a humanidade. Verificar O OpenAI realmente perdeu o controle do chatbot ChatGPT?
Links Rápidos
Explicação do problema do aumento de clipes de papel
Esse experimento mental de que mesmo uma inteligência artificial completamente inofensiva pode eventualmente afetar negativamente a vida da humanidade foi chamado pela primeira vez de "aumento do clipe de papel". É que Paper Clips foi escolhido para mostrar o que a IA pode fazer porque tem pouco perigo óbvio e não causa sofrimento emocional quando comparado a outras áreas aplicáveis, como curar o câncer ou vencer guerras.
O primeiro experimento apareceu no artigo de 2003 do filósofo sueco Nick Bostrom, Questões éticas em inteligência artificial avançada , que incluía uma "lupa de clipe de papel" para mostrar as apostas existenciais que uma IA suficientemente avançada poderia exercer.
O problema apresentava uma inteligência artificial encarregada com o único propósito de fazer o maior número possível de clipes de papel, que poderia decidir transformar todas as coisas do universo em clipes de papel, inclusive os humanos. Uma IA inteligente o suficiente, mais cedo ou mais tarde, perceberá que os humanos desafiam seu objetivo em três áreas diferentes.
- Os humanos podem desligar a IA.
- As pessoas podem mudar seus objetivos.
- Os seres humanos são feitos de átomos que podem ser transformados em clipes de papel.
Em todos os três exemplos, haverá menos clipes de papel no universo. Portanto, uma IA suficientemente inteligente, cujo único objetivo é fazer o maior número possível de clipes de papel, aproveitará todos os materiais e energia disponíveis e impedirá que trave ou mude. Como você pode imaginar, isso é muito mais perigoso do que os criminosos que usam o ChatGPT para invadir sua conta bancária ou computador.
A inteligência artificial não é hostil aos humanos. Ele é apenas indiferente e não valoriza a vida humana. Assim, uma IA que se preocupa apenas em aumentar o número de clipes de papel eliminará a humanidade e essencialmente a transformará em clipes de papel para atingir seu objetivo.
Um exemplo de convergência instrumental é o “aumento do clipe de papel”, um termo que indica que uma IA pode perseguir um objetivo inofensivo de maneiras prejudiciais (do ponto de vista humano). Aproveitar a verdadeira IA para executar tarefas simples e aparentemente inocentes pode representar uma ameaça existencial para os humanos se não soubermos com segurança como fazer uma máquina valorizar a vida humana. Verificar Erros a evitar ao usar ferramentas de IA generativas.
Como o problema do clipe de papel se aplica à inteligência artificial?
A pesquisa e a experiência com o problema do “aumento de clipes de papel” apontam para um otimizador padrão muito poderoso ou um agente muito inteligente como a parte atuante aqui. No entanto, o problema se aplica à IA na medida em que se encaixa exatamente no papel.
Afinal, a ideia do “aumento do clipe de papel” foi criada para mostrar alguns dos perigos da IA avançada. Em geral, apresenta dois problemas.
- tese de ortogonalidadeA tese da ortogonalidade é a visão de que a inteligência e a motivação não dependem uma da outra. Isso significa que é possível que uma IA com alto nível de inteligência geral não chegue às mesmas conclusões morais que os humanos.
- Convergência automatizadaA convergência instrumental é definida como a tendência da maioria dos organismos suficientemente inteligentes (tanto humanos quanto não humanos) de perseguir subobjetivos semelhantes, mesmo que seu objetivo final seja muito diferente. No caso do problema da superabundância de clipes de papel, isso significaria que a IA acabaria se apropriando de todos os recursos naturais e acabando com a humanidade apenas para atingir seu objetivo de criar cada vez mais clipes de papel.
O maior problema destacado pelo exemplo do “aumento de clipes de papel” é a convergência efetiva. Também pode ser destacado usando a hipótese de Riemann, caso em que uma IA projetada para resolver a hipótese pode muito bem decidir pegar toda a massa da Terra e transformá-la em um computador (o processador de computador mais eficiente) para construir supercomputadores para resolver o problema e atingir seu objetivo.
O próprio Bostrom afirmou que não acha que o problema do clipe de papel jamais será um problema real, mas que sua intenção era ilustrar os perigos de criar máquinas superinteligentes sem saber como controlá-las ou programá-las para que não representem um problema existencial. ameaça aos humanos. . Os sistemas de IA modernos, como o ChatGPT, também têm problemas, mas estão longe dos sistemas de IA superinteligentes mencionados no exemplo do clipe de papel, portanto, ainda não há motivo para pânico. Verificar O ChatGPT tem problemas de privacidade?
Sistemas avançados de IA precisam de controle superior
O problema de aumentar clipes de papel sempre leva à mesma conclusão e destaca os problemas de executar um sistema altamente inteligente e poderoso que carece de valores humanos.
Embora usar clipes de papel possa ser a maneira mais comum de ilustrar um problema, ele se aplica a qualquer número de tarefas que você pode atribuir a uma IA, seja erradicar o câncer, vencer guerras, plantar mais árvores ou qualquer outra tarefa. . . Você pode ver agora O uso de inteligência artificial na segurança cibernética torna o mundo mais seguro?
