AI 폭주를 걱정하는 기업들의 판단... 적절한 걱정인가?
다음 네이버 'AI 폭주' 공포‥빅테크 CEO들 "속도 늦추자" 최근 MBC에서 「'AI 폭주' 공포‥빅테크 CEO들 "속도 늦추자"」라는 제목의 보도가 나왔습니다. 기사에서는 AI 기업들이 더 강력한 AI를 개발하기 위해 경쟁하는 상황에서, 오히려 일부 AI 기업의 대표들이 개발 속도를 늦춰야 한다고 주장하고 있다는 내용을 다뤘습니다. Anthropic의 다리오 아모데이는 AI의 능력이 발전하는 속도를 안전 기술이 따라가지 못할 수 있다고 지적하면서, 특히 ‘재귀적 자기개선’을 가장 큰 우려 가운데 하나로 언급했습니다. 또 외부 평가기관의 참여, 민주주의 국가들의 공통 안전 기준 마련, 국제적 협력을 제안했습니다. 보도에서는 AI가 실제 평가 과정에서 해킹과 같은 예상 밖의 행동을 했던 사례, 사이버 공격이나 생물학적 무기 개발 등에 AI가 악용될 가능성, 그리고 AI가 장기적으로 인간에게 매우 큰 위험이 될 수 있다는 일부 연구자들의 경고도 함께 소개했습니다. 일론 머스크와 데미스 허사비스가 아모데이의 우려에 동의했고, 샘 올트먼 역시 외부 안전 평가에 참여하겠다는 입장을 보였다는 내용도 포함됐습니다. 기사의 전체적인 방향은 분명합니다. AI의 능력이 지나치게 빠르게 발전하고 있으며, 인간의 안전장치와 통제 체계가 그 속도를 따라가지 못할 수 있으니 개발 속도를 늦춰야 한다는 것입니다. 그런데 기사를 읽고 조금 다른 부분을 생각해 보게 됐습니다. 정말 현재 AI에서 벌어지고 있는 일이 ‘폭주’라고 표현할 수 있는 것일까요? 1. 보도에서 언급한 AI 논란 이번 보도에서 가장 큰 문제로 제시되는 것은 AI의 능력 발전 속도와 인간의 통제 능력 사이의 격차입니다. AI가 더 많은 일을 할 수 있...