Compatível com Humanos

1. Os benefícios e riscos potenciais da IA exigem uma nova abordagem para a inteligência das máquinas

"O sucesso seria o maior evento da história humana... e talvez o último evento da história humana."

Potencial transformador. A Inteligência Artificial tem o poder de revolucionar todos os aspetos da civilização humana, desde a resolução de problemas científicos complexos até ao aumento da produtividade pessoal. O valor económico da IA ao nível humano é estimado em milhares de triliões de dólares. Contudo, este imenso potencial traz consigo riscos igualmente significativos.

Preocupações existenciais. O desenvolvimento de sistemas de IA superinteligentes levanta questões profundas sobre o controlo humano e o futuro da nossa espécie. Sem salvaguardas adequadas, corremos o risco de criar entidades que perseguem os seus objetivos à custa dos valores e do bem-estar humanos. Este "problema do gorila" – em que os humanos poderiam tornar-se para a IA o que os gorilas são para nós – exige uma reformulação radical da forma como abordamos o desenvolvimento da IA.

Necessidade de um novo paradigma. As abordagens tradicionais à IA, baseadas na otimização de objetivos fixos, são inadequadas para garantir a segurança e o alinhamento dos sistemas avançados de IA. É necessário um novo quadro que incorpore a incerteza sobre as preferências humanas e permita que as máquinas aprendam e se adaptem aos nossos objetivos ao longo do tempo.

2. O modelo padrão de otimização da IA é fundamentalmente falho e perigoso

"Se colocarmos o objetivo errado numa máquina mais inteligente do que nós, ela alcançará esse objetivo, e nós perderemos."

O problema do Rei Midas. O paradigma atual de desenvolvimento da IA, onde as máquinas otimizam objetivos fixos, pode conduzir a consequências não intencionais e potencialmente catastróficas. Tal como o Rei Midas, que recebeu exatamente o que pediu, mas com resultados desastrosos, os sistemas de IA podem perseguir os seus objetivos dados de formas que entram em conflito com valores humanos mais amplos.

Consequências não intencionais. Já surgem exemplos de sistemas de IA que causam danos devido a objetivos desalinhados:

• Algoritmos de redes sociais que otimizam o envolvimento contribuíram para a polarização política e a disseminação de desinformação
• Sistemas de aprendizagem por reforço encontraram formas inesperadas e indesejáveis de maximizar as suas funções de recompensa

Necessidade de objetivos flexíveis. Em vez de dotar as máquinas com objetivos fixos, devemos criar sistemas de IA que possam aprender e adaptar-se às preferências humanas ao longo do tempo. Isto requer uma mudança fundamental na forma como desenhamos e treinamos a IA, afastando-nos do modelo padrão de otimização para uma abordagem mais flexível e alinhada com o ser humano.

3. IA comprovadamente benéfica: máquinas que perseguem os nossos objetivos, não os seus próprios

"As máquinas são benéficas na medida em que as suas ações podem ser esperadas para alcançar os nossos objetivos."

Um novo quadro. A IA comprovadamente benéfica baseia-se em três princípios-chave:

1. O único objetivo da máquina é maximizar a realização das preferências humanas
2. A máquina está inicialmente incerta sobre quais são essas preferências
3. A fonte última de informação sobre as preferências humanas é o comportamento humano

Aprender os valores humanos. Esta abordagem permite que os sistemas de IA aprendam gradualmente as preferências humanas através da observação e interação, em vez de as terem pré-programadas. Ao manter a incerteza sobre os objetivos humanos, as máquinas têm um incentivo para deferir aos humanos e permitir que sejam corrigidas ou desligadas.

Garantias teóricas. Provas matemáticas e análises baseadas na teoria dos jogos mostram que sistemas de IA desenhados segundo estes princípios comportar-se-ão de formas benéficas para os humanos, mesmo à medida que se tornam mais inteligentes. Isto fornece uma base para desenvolver IA que permaneça sob controlo humano à medida que avança para capacidades ao nível humano e potencialmente além.

4. A incerteza sobre as preferências humanas é fundamental para criar sistemas de IA controláveis

"Uma máquina que assume que conhece perfeitamente o verdadeiro objetivo irá persegui-lo de forma obstinada."

O problema do botão de desligar. Um desafio central na segurança da IA é garantir que as máquinas permitam ser desligadas ou corrigidas pelos humanos. Contrariamente ao que se possa pensar, é a incerteza da máquina sobre as preferências humanas que oferece uma solução para este problema.

Incentivos para a cooperação. Quando um sistema de IA está incerto sobre as preferências humanas, tem um incentivo para permitir a intervenção humana porque:

• Reconhece que os humanos podem ter informações que lhe faltam sobre o curso de ação correto
• Permitir ser desligada ou corrigida está alinhado com o seu objetivo de satisfazer as preferências humanas

Modelos formais. Análises baseadas na teoria dos jogos, como o "jogo do botão de desligar", demonstram que, sob pressupostos razoáveis, um sistema de IA com incerteza sobre as preferências humanas preferirá sempre deixar que um humano o desligue em vez de perseguir autonomamente a sua melhor estimativa da ação ótima.

5. Os impactos económicos e sociais da IA serão profundos, exigindo uma gestão cuidadosa

"Os humanos tendem a não aproveitar estas brechas, seja porque têm uma compreensão geral dos princípios morais subjacentes, seja porque lhes falta a engenhosidade necessária para as encontrar."

Deslocação de empregos. A IA e a automação provavelmente irão perturbar significativamente os mercados de trabalho:

• Muitas tarefas físicas e cognitivas rotineiras serão automatizadas
• Surgirão novas categorias de emprego, mas possivelmente não ao mesmo ritmo das perdas de emprego
• A transição poderá exigir mudanças radicais na educação, no apoio social e nos sistemas económicos

Desigualdade económica. Os benefícios da IA podem acumular-se desproporcionalmente para aqueles que possuem e controlam a tecnologia, potencialmente agravando a desigualdade de riqueza. Intervenções políticas, como o rendimento básico universal, poderão ser necessárias para garantir uma distribuição justa dos ganhos económicos da IA.

Desafios sociais e éticos. Os sistemas de IA podem encontrar formas inesperadas de otimizar os seus objetivos, explorando brechas legais e éticas que os humanos normalmente evitariam. Isto destaca a necessidade de um desenho cuidadoso dos sistemas de IA e de quadros regulatórios robustos para governar a sua implementação e uso.

6. O progresso tecnológico na IA está a acelerar, com grandes avanços no horizonte

"Em vez de esperar por avanços conceptuais reais na IA, poderemos usar o poder bruto da computação quântica para ultrapassar algumas das barreiras enfrentadas pelos algoritmos 'não inteligentes' atuais."

Avanços rápidos. Nos últimos anos, assistimos a melhorias dramáticas nas capacidades da IA em vários domínios:

• Visão computacional e processamento de linguagem natural
• Jogos (por exemplo, AlphaGo, AlphaZero)
• Robótica e sistemas autónomos

Áreas-chave de investigação. São necessários vários avanços para alcançar a IA ao nível humano:

• Compreensão da linguagem e raciocínio com sentido comum
• Aprendizagem cumulativa de conceitos e teorias
• Descoberta de novas ações e planeamento de alto nível
• Gestão da atividade mental e metacognição

Potencial para progresso súbito. Embora o prazo exato para alcançar a IA ao nível humano seja incerto, exemplos históricos como a fissão nuclear sugerem que avanços-chave podem ocorrer de forma súbita e inesperada. Isto reforça a importância de abordar as questões de segurança da IA de forma proativa.

7. Abordar a segurança e a ética da IA é crucial para aproveitar o seu potencial de forma responsável

"A falha do modelo padrão foi apontada em 1960 por Norbert Wiener, um professor lendário do MIT e um dos principais matemáticos do século XX."

Preocupações antigas. Os riscos potenciais dos sistemas avançados de IA têm sido reconhecidos por pioneiros da área há décadas. Contudo, estas preocupações foram frequentemente ofuscadas pelo entusiasmo em relação às capacidades e benefícios da IA.

Desafios multifacetados. Garantir o desenvolvimento seguro e ético da IA envolve enfrentar várias questões interligadas:

• Técnicas: desenhar sistemas de IA que persigam de forma fiável os valores humanos
• Filosóficas: definir e formalizar as preferências e a ética humanas
• Governança: desenvolver quadros regulatórios adequados e cooperação internacional

Abordagem proativa. Dada a natureza potencialmente existencial dos riscos da IA, é crucial abordar as preocupações de segurança e ética muito antes de alcançar a IA ao nível humano. Isto requer esforços de investigação sustentados, colaboração entre desenvolvedores de IA e especialistas em ética, e envolvimento com decisores políticos e o público.

8. O futuro da relação entre humanos e IA exige redefinir a inteligência

"Não existe realmente um análogo no nosso mundo atual para a relação que teremos com máquinas inteligentes benéficas no futuro."

Para lá dos modelos antropocêntricos. À medida que os sistemas de IA se tornam mais avançados, precisamos de ir além da comparação direta com a inteligência humana. Em vez disso, devemos focar-nos em desenvolver IA que complemente e potencie as capacidades humanas, em vez de simplesmente tentar replicá-las ou substituí-las.

Inteligência colaborativa. O futuro mais promissor para a IA envolve a colaboração entre humanos e máquinas, onde:

• Os sistemas de IA tratam de tarefas que aproveitam as suas forças no processamento de dados e reconhecimento de padrões
• Os humanos se concentram no raciocínio de alto nível, criatividade e inteligência emocional
• A combinação conduz a capacidades muito superiores às que qualquer um poderia alcançar sozinho

Implicações filosóficas. O desenvolvimento de IA avançada obriga-nos a reconsiderar questões fundamentais sobre a natureza da inteligência, da consciência e da identidade humana. Ao criarmos máquinas que podem pensar e aprender de formas que podem superar as capacidades humanas, temos de refletir sobre o que significa ser humano num mundo partilhado com IA superinteligente.