【STV 차용환 기자】빠르게 진화하는 인공지능(AI)이 인류를 멸종시킬 수준의 위험으로 커질 수 있다는 경고가 미국에서 나왔다.
AI 정책 조언을 제공하는 글래드스톤 AI는 미국 국무부의 의뢰를 받아 이번 주 발표한 보고서를 통해 가장 발전한 AI 시스템이 인류 멸종 수준의 위협으로 커질 수 있다며 미국 정부의 개입 필요성을 주장했다.
미국 CNN은 12일(현지시간) 보고서 내용을 전하며 “빠르게 진화하는 AI로 재앙적인 국가 안보 위험에 대한 경고”라고 했다.
또 보고서에는 미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다고 경고하는 내용도 담겼다고 했다.
보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보 정부 당국자 등을 1년에 걸쳐 인터뷰한 내용을 토대로 작성된 것으로 알려졌다.
인터뷰한 인원은 200명이 넘었다.
보고서는 크게 두 가지를 주요 위협으로 꼽았다.
가장 발전한 AI 시스템이 무기화되면 잠재적으로 돌이킬 수 없는 피해를 줄 수 있다고 경고하고 나섰다.
경쟁 압박으로 인해 기업들이 안전과 보안을 희생하면서도 AI 개발에 박차를 가하고 있어 무기화 가능성 등을 우려했다.
특정 시점에 도달하면 개발 중인 AI 시스템에 대해 통제력을 상실해 잠재적으로 세계 안보에 파괴적 결과를 초래할 수 있다는 우려도 AI 연구실에 있는 것으로 알려졌다.
AI 군비 경쟁 및 분쟁, 대량살상무기 규모의 치명적 사고의 위험도 경고했다.
이 같은 위협을 극복하기 위해 보고서 저자들은 “미국 정부가 개입해야 할 분명하고 긴급한 필요성이 있다”라고 주장했다.