"AI, 인류에 '멸종 수준' 위협 제기 가능성"

https://youtube.com/shorts/qbmqQRL7C4A

빠르게 진화하는 AI가 인류를 멸종시킬 수준의 위협이 될 수 있다는 경고가 미국에서 나왔습니다.

AI 정책 조언 등을 제공하는 민간업체 글래드스톤 AI가 미국 국무부 의뢰를 받아 이번 주 발표한 보고서는, 가장 발전한 형태의 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있다고 경고했습니다.

미국 CNN은 최근 이 보고서 내용을 전하며 "AI로 인한 재앙적인 국가 안보 위험에 대한 경고"라고 했습니다.

 

보고서에는 "미국 연방 정부가 재앙을 피할 수 있는 시간이 얼마 남지 않았다"는 경고도 담겼습니다.

보고서는 크게 두 가지 위험을 꼽았는데 첫 번째는 AI 시스템이 무기화돼 잠재적으로 돌이킬 수 없는 피해를 줄 수 있다는 점을 꼽았습니다.

경쟁 압박으로 기업들이 안전과 보안을 희생하면서 AI 개발을 가속화하고 있다는 것입니다.

또 하나는 어느 시점이 되면 개발 중인 AI 시스템에 대한 통제력을 상실해 잠재적으로 세계 안보에 파괴적인 결과를 초래할 수 있다는 점입니다.

보고서는 "AI와 범용인공지능이라 불리는 AGI의 부상은 핵무기 도입을 연상시키는 방식으로 세계 안보를 불안정하게 할 가능성이 있다"며 AI 군비 경쟁과 분쟁을 예상했습니다.

특정 AI 차세대 모델이 오픈 엑세스로 공개될 경우, 이 모델의 잠재적인 설득 능력이 선거 개입이나 유권자 조작 등에 사용돼 민주주의를 파괴할 수 있다는 주요 AI 연구소 관계자의 구체적인 우려도 담겼습니다.