‘AI 감속’ 공감해도 멈추면 낙오…‘죄수의 딜레마’ 빠진 빅테크 > 홍보게시판

‘AI 감속’ 공감해도 멈추면 낙오…‘죄수의 딜레마’ 빠진 빅테크

또또링3

2026-09-18 18:25 0 0

본문

최첨단 인공지능(AI) 개발 속도를 늦춰야 한다는 공감대가 업계에서 커지고 있지만 구체적인 실행 방식을 놓고는 의견이 엇갈리고 있다. 규제 주체와 적용 시점·통제 기준을 둘러싼 이해관계가 얽혀 있어 현실화까지는 적잖은 진통이 예상된다. 월스트리트저널(WSJ)은 “전형적인 ‘죄수의 딜레마’”라고 표현했다.
미국 정보기술 전문매체 디인포메이션은 13일(현지시간) 앤트로픽·오픈AI·구글이 AI 산업의 표준기구 설립을 물밑에서 논의해왔다고 보도했다. 최첨단 모델의 안전성을 평가할 공동 체계를 마련하기 위한 ‘사전 작업’으로 해석된다. 이들 기업은 지난 7월부터 C레벨 이하 실무진으로 구성된 그룹에서 정기 회동을 해왔으며 지난주까지도 논의를 이어간 것으로 전해졌다.
다리오 아모데이 앤트로픽 최고경영자(CEO)의 제안은 외부 검증을 토대로 기업들이 속도를 맞추는 ‘공동 감속’이다. 외부 평가자에게 내부 임직원에 준하는 접근 권한을 부여해 모델과 학습 과정을 점검받는 방식을 골자로 한다. 일정한 위험 능력에 도달할 때마다 안전성을 입증하도록 하는 ‘체크포인트’ 방식을 예로 들었다.
문제는 이런 공동 규칙을 누가 만들고 감독하느냐다. 규제 논의가 프런티어 AI 개발사 위주로 흘러갈 경우 업계 안팎의 강한 반발을 부를 수 있다. 사티아 나델라 마이크로소프트 CEO는 “소수의 주체가 통제해서는 안 되며 생태계와 국가, 학계를 포함한 여러 분야를 폭넓게 대표해야 한다”고 했다.
기업의 자율적인 속도조절만으로는 부족하다는 지적도 나온다. 스튜어트 러셀 미국 UC버클리 교수는 개발 속도를 낮춰 안전기술이 따라올 시간을 벌겠다는 접근에 관해 “순서가 완전히 뒤바뀌었다” “안전요건을 정하고, 이를 충족할 때만 추가 진전이 이뤄져야 한다”고 말했다. 미국 정부가 구축 중인 프런티어 모델의 자발적 사전 평가 체계를 의무화하는 방안도 거론된다.
규제를 어느 개발 단계에 적용하는지에 따라 희비가 엇갈릴 수 있다. 대규모 연산자원을 사용하는 훈련을 제한하면 거대 개발사가 주된 규제 대상이 된다. 반면 모델을 내려받아 수정·활용할 수 있게 하는 ‘가중치’ 공개까지 심사하면 오픈소스 진영과 소규모 스타트업의 부담이 커진다. 자칫 안전 심사가 후발 기업의 기술 개발을 가로막는 ‘진입장벽’이 될 수 있다.
안전 기준의 ‘레드라인’을 설정하는 과정 자체에서도 상당한 진통이 예상된다. AI가 다음 AI 개발을 돕는 ‘재귀적 자기개선’(RSI)이나 인간 능력을 뛰어넘는 ‘초인공지능’(ASI) 등이 위험 수위로 거론되지만, 이 개념들을 표준화한 정의는 아직 없다. 구체적인 평가 항목과 기준을 정하지 않으면 같은 모델을 두고도 기업과 평가기관의 판단이 엇갈리며 규제 실효성이 떨어질 수 있다.
WSJ는 “전형적인 ‘죄수의 딜레마’”라고 표현했다. ‘죄수의 딜레마’란 따로 갇힌 죄수들이 상대의 배신을 염려해 자신과 상대방 모두에게 나쁜 결과를 초래하는 선택을 하는 상황을 말한다. 만약 앤트로픽이 개발 속도를 늦췄는데도 오픈AI가 멈추지 않으면 앤트로픽은 바로 오픈AI에 뒤처질 수밖에 없는 것이다. 모델 훈련과 데이터센터 비용을 감당하기 위해 막대한 규모의 외부 투자금을 끌어들여 경쟁하는 구조 속에서 누구도 자발적으로 먼저 속도를 늦추려 하지 않을 가능성이 크다.
국내 한 AI 개발사 관계자는“AI는 기술 변화가 너무 빨라 하나의 표준을 만들기도 쉽지 않고, 구속력이 있을지도 불분명하다”면서 “(소수 프런티어 랩이) 자신들의 최고치를 맘껏 보여준 뒤 속도를 늦추자고 주장하는 데 동의할 수 있는 기업은 많지 않을 것”이라고 말했다.
미국 인공지능(AI) 기업들이 잇따라 AI 개발 속도조절론을 주장한 가운데, 중국 AI 스타트업 딥시크의 개발자가 AI 발전이 가져올 위험을 막으려면 일부 기업이 기술을 독점해서는 안 된다고 밝혔다.
딥시크 개발자 류성위는 지난 14일 SNS에 올린 글에서 “인류는 자신을 파멸시키는 일에서 예로부터 조금도 주저함이 없었다”며 “설령 내가 포기하거나 모델 훈련을 고의로 방해해 지연시킨다고 해도 다른 회사 모델은 계속 발전해 결국 나를 가차 없이 제압할 것이고, 모두가 스스로를 파멸시키는 데 집착하는 상황에선 나 역시 잔혹한 군비 경쟁에 참가할 수밖에 없다”고 했다.
그는 AI의 발전에 따라 미래 사회는 생산성이 극대화돼 사람들의 생활 수준이 현저히 향상된 공산주의로 가거나 황폐한 디스토피아를 그린 ‘사이버펑크 2077’ 게임 같은 세상으로 갈 가능성이 있다고 전망했다.
류성위는 “후자(디스토피아)에서는 소수의 테크기업이 대부분의 자원을 통제하고 극소수의 사람이 가장 선진적인 AI와 각종 과학·기술을 써서 ‘기계적 승천’에 가까워질 수 있겠지만, 대부분의 사람은 매우 미약한 AI만 쓸 수 있다”며 “계층 간 이동은 점점 더 어려워질 것”이라고 지적했다.
이어 그는 “나는 여전히 최첨단 AI가 개방적이고 저렴한 방식으로 모든 사람에게 공급돼야 한다고 믿는다”며 “앤트로픽이나 오픈AI가 그렇게 할 것이라고 믿지 않는다. 특히 앤트로픽이 최첨단 AI나 범용 인공지능(AGI·모든 작업에서 인간처럼 능력을 발휘할 수 있는 인공지능)을 장악한다면, 좀 과장해서 말하자면 그 심각성은 히틀러가 연합군보다 먼저 원자폭탄 기술을 손에 넣는 정도”라고 했다.

댓글목록0

등록된 댓글이 없습니다.

댓글쓰기 댓글 포인트 안내

첨부파일 동영상

적용하기

* 지원 동영상 서비스 목록 보기

서비스명	URL 주소
유튜브	https://www.youtube.com
비메오	https://vimeo.com
네이버 TV	http://tv.naver.com
카카오 TV	https://tv.kakao.com
테드	https://www.ted.com
판도라	http://www.pandora.tv
데일리모션	https://www.dailymotion.com
슬라이더쉐어	https://www.slideshare.net
유쿠	http://www.youku.com
iQiyi	http://www.iqiyi.com

비밀글 사용

자동등록방지

자동등록방지 숫자를 순서대로 입력하세요.