Superinteligência artificial é capaz de destruir a humanidade “acidentalmente”

Em meados do século 21, a humanidade será capaz de criar uma inteligência artificial verdadeiramente poderosa que destruirá nossa civilização se algo der errado em seu trabalho.

Segundo o Washington Post , tal ameaça é considerada real por Emil Torres, filósofo e especialista em avaliar a probabilidade de catástrofes globais.

Torres tem certeza de que em 2050 aparecerá no mundo a chamada superinteligência artificial – uma máquina cujas capacidades superarão as de uma pessoa.

“A criação de superinteligência artificial levará a um avanço tecnológico em várias áreas, mas também teremos que lidar com perigos muito sérios.

“Se as pessoas confiam na superinteligência com algumas coisas realmente importantes, então há uma alta probabilidade de que a máquina destrua a humanidade ou a prejudique muito.

Algoritmos de controle de IA muito complexos serão necessários, mas onde está a probabilidade de um supergênio do computador não ser capaz de contorná-los?

Mesmo nos algoritmos de IA de hoje, há aspectos que escapam ao nosso entendimento e, no futuro, as pessoas entenderão cada vez menos como a IA poderosa funciona”, alertou Torres.

O especialista acredita que uma catástrofe global causada pela IA pode ocorrer se as pessoas confiarem na máquina tarefas muito complexas e abstratas.

Por exemplo, eles instruirão a IA a “arranjar a paz no mundo”, como resultado do qual o computador simplesmente destruirá todas as pessoas (sem pessoas – ninguém para lutar entre si).

Não está claro que a humanidade estará preparada para a superinteligência, mas certamente não estamos prontos agora.

Com toda a nossa instabilidade global e compreensão ainda incipiente da tecnologia, adicionar ASI seria acender um fósforo ao lado de uma fábrica de fogos de artifício.

A pesquisa sobre inteligência artificial deve desacelerar, ou mesmo pausar. E se os pesquisadores não tomarem essa decisão, os governos devem tomá-la por eles.