15일(현지시간) 미국 샌프란시스코에서 열린 세일즈포스의 연례 행사 드림포스에서 앤트로픽 다리오 아모데이 최고경영자(CEO)와 엔비디아 젠슨 황 CEO의 인공지능(AI) 개발 속도와 안전 문제에 대한 의견이 뚜렷한 대립을 보였다.아모데이 CEO는 AI 발전 속도를 조절하고, 자체 점검과 업계 표준 정립, 국제 공조를 강화해야 한다고 주장했다.
그는 AI 안전을 위해 3단계 접근법이 필요하며, 과거 자동차 제조업체의 안전 문제 해결 사례를 언급하며 자신의 주장을 뒷받침했다. 그는 AI 기술이 현재의 상태에서 동결된다 하더라도 여전히 사회적 혜택을 제공할 범위가 넓다고 강조했다.
아모데이는 이러한 의견을 자신의 블로그에도 반영하며 AI 안전 우려를 드러냈다.반면, 젠슨 황 CEO는 안전과 속도가 공학적으로 동시 달성될 수 있다고 반박했다.
그는 시장의 통제력이 이미 존재하고 있으며, 추가적인 규제를 필요로 하지 않는다고 주장했다. 황 CEO는 안전이 최우선 과제이지만, AI의 복잡한 시스템에서 적절한 시험 환경을 구축하면 속도와 안전을 동시에 달성할 수 있다고 말했다.
그는 AI 산업의 발전이 일자리 파괴를 초래할 것이라는 주장에도 반박하며 AI가 오히려 일자리를 증가시킬 것이라는 의견을 피력했다.이 날의 논쟁은 AI 안전성을 둘러싼 점점 더 커져가는 우려를 반영하고 있다.
아모데이 CEO의 발언 이후, 오픈AI의 샘 올트먼 CEO와 일론 머스크 스페이스XAI CEO 등 많은 AI 관련 인사들이 그의 의견에 동조했다. 그러나 도널드 트럼프 전 미국 대통령은 AI와 관련한 안전 우려에 대해 강하게 반대하며, 아모데이 CEO를 비판하였다.
트럼프 대통령은 AI의 발전을 국가 경쟁력으로 보며, 속도 조절 주장에 반대의 목소리를 높였다.현재 상황은 AI 업계에서의 속도와 안전 논의가 단순한 기술적 문제가 아니라, 업계 이해관계가 얽힌 복잡한 문제임을 시사한다.
AI 기업들이 안전성을 강조하며 개발 속도를 조절하자는 주장은 경쟁사 견제와 기업 가치를 높이기 위한 전략으로 해석되기도 한다. 이러한 맥락에서, 규제 포획 우려와 함께 AI 기술 발전의 윤리적 및 사회적 책임도 더욱 중요해지고 있다.
AI 안전을 둘러싼 논의는 향후 정책과 산업의 방향성에 중대한 영향을 미칠 것으로 보인다.
