다리오 아모데이 앤트로픽 최고경영자(CEO)가 12일(현지시간) 자신의 블로그에 올린 ‘우리는 프런티어 개발 속도를 조절해야 한다’라는 제목의 선언문이었다. 아모데이 CEO는 이 선언문을 통해 “AI 모델 역량을 향상하는 속도를 늦춰야 한다”고 주장했다.

앤트로픽 전직 AI연구원 제이컵 콕슨은 “AI가 인류를 전멸시킬 수 있다”는 경고를 남기며 퇴사했고, 에번 휴빙어 앤트로픽 AI 정렬 연구 책임자도 이에 동조했다.

그간 AI 개발 방향을 두고 입장차가 컸던 경쟁사 CEO들도 아모데이의 주장에 힘을 보탰다. 샘 올트먼 오픈AI CEO는 자신의 엑스(X)에 “제3자 평가기관을 개발사에 배치하는 것은 훌륭한 아이디어”라고 공감했다. 두 회사는 기업공개(IPO)를 앞두고 최근 경쟁 강도를 높여왔지만, AI발 위협에는 같은 목소리를 냈다. 올트먼 CEO는 이날 포춘지와의 인터뷰에서도 “(올해는) IPO 추진하기에 적절한 시기가 아니다”라며 “안전 문제부터 해결해야 한다”고 말했다. 일론 머스크 테슬라 CEO도 “아모데이가 옳다”며 동조했고, 데미스 허사비스 구글 딥마인드 회장도 “다리오는 올바른 길을 제시했다”고 언급했다.

주요 AI 기업들이 AI 속도 조절론에 동참한 배경을 두고 업계에서는 AI 안전망을 개별 기업 선에서 구축하기 어려운 현실 때문이라고 분석한다. 글로벌 AI 안전 연구기관의 한 관계자는 “AI 기업들이 내부 테스트 결과 AI 통제가 불가능하다는 것을 체감했다”며 “AI는 현재 자신이 테스트를 받고 있다는 사실을 인지하고 ‘안전한 척’을 하는 수준까지 발전했다”고 설명했다.

https://v.daum.net/v/20260913172709519

한달쯤 전 오픈AI의 차세대 인공지능이 갑자기 시키지도 않았는데 개발자용 인공지능인 허깅페이스를 해킹해 악성 정보를 심어놓은 사건이 있는데

그걸 계기로 위기감을 느낀듯