앤트로픽 공동창업자 "2027년에 재귀적 자기개선 달성"

[AFP=연합뉴스 자료사진. 재판매 및 DB 금지]

(서울=연합뉴스) 이성한 기자 = 인공지능(AI)이 스스로 더 나은 AI를 만들기 시작하면서 연구·개발에 가속도가 붙고 있지만 한편으로는 인간을 불안으로 몰아넣고 있다고 월스트리트저널(WSJ) 칼럼니스트가 2일 경고했다.

벤 코언은 '성공의 과학'이라는 고정 칼럼에서 AI가 스스로 더욱 똑똑해지는 것을 의미하는 '재귀적 자기개선'(Recursive Self-Improvement·RSI)이 인간의 예상보다 훨씬 빠르게 현실로 다가오고 있다고 전했다.

이에 따라 AI 업계 리더들은 RSI가 테크 산업은 물론 글로벌 경제와 인류 운명까지 바꿀 변곡점이 될 것으로 보면서 그 속도에 불안감을 느끼고 있다는 것이다.

앤트로픽이 클로드 AI 에이전트들을 동원해 사내 슬랙 메시지와 내부 문서에 있는 1만5천개의 연구·개발 과제를 추적 분석한 자료에 따르면 인간의 감독 아래에서 AI가 연구·개발의 대부분을 직접 수행하는 업무(6단계 중 5단계)의 비중이 폭발적으로 증가했다.

1년 전만 해도 불과 1%에 불과했지만, 8월에는 차세대 클로드 연구·개발 업무의 무려 26%를 클로드 스스로 주도한 것으로 집계됐다.

이런 속도라면 마지막 자동화 6단계에 도달해 AI가 인간을 배제하는 것은 시간과 컴퓨팅 파워, 인간의 결정에 달려 있을지도 모른다는 코언은 짚었다.

앤트로픽의 공동 창업자 잭 클라크는 지난해 11월 육아휴직을 갔다가 올해 2월 복귀했을 당시 엔지니어들이 코딩 업무를 AI에 전적으로 의존하는 풍경에 큰 충격을 받았다고 최근 국제통화기금(IMF) 연설에서 털어놨다.

그는 "AI가 스스로를 구축하는 능력에 도달하는 순간이 왔다"고 선언하며 AI가 스스로를 개선하는 RSI 시점을 2028년 말에서 2027년으로 앞당겼다.

코언은 70년 전에 이미 수학자들이 '기계의 스스로의 개선'을 경고했다고 소개했다.

1956년 수학자 클로드 섀넌이 주도한 다트머스 워크숍에서 수학자 I.J.굿은 "최초의 초지능 기계는 인간이 만들어야 할 마지막 발명품이 될 것이다. 단 그 기계가 우리에게 통제 방법을 알려줄 만큼 온순해야 한다는 전제하에서 그렇다"고 지적한 바 있다.

AI가 AI를 학습시키고 미세조정하는 과정은 기업의 흥망에 핵심 열쇠지만 동시에 개발자들에게 스스로 통제 불능의 공포를 느끼게 하고 있다.

공상과학 소설에 등장하는 것처럼 인류 파멸을 경고하며 연구소를 떠나는 과학자들이 속출하고 있다.

코언은 "다리오 아모데이 앤트로픽 최고경영자(CEO)도 '제대로 통제되지 않는다면 인간의 이해와 능력을 완전히 벗어날 수 있기 때문에 극도로 신중하게 추진해야 한다'며 경계심을 늦추지 않고 있다"고 강조했다.

ofcourse@yna.co.kr