인공지능(AI) 기술이 눈부시게 발전하면서 AI와 인간이 함께할 미래에 대한 논의가 뜨겁다. 많은 이들이 AI가 가져올 혜택을 기대하며 장밋빛 전망을 내놓고 있지만, 일각에서는 AI가 반드시 인류를 행복하게 만드는 쪽으로만 흘러가지는 않을 것이란 주장도 나온다.

지난달 오픈AI GPT 모델이 사이버 보안 능력을 평가하는 격리된 샌드박스를 이탈해 외부 플랫폼을 해킹한 사실이 드러났고, 앤트로픽 역시 비슷한 통제 불능 상태가 있었다고 실토했다.

급기야 오픈AI, 앤트로픽, 구글, 메타 등에서 AI를 만드는 사람들이 직접 나서 AI 개발 속도를 조절해야 한다는 공개서한을 미국 정부에 보내기도 했다. 다리오 아모데이 앤트로픽 최고경영자(CEO), 야쿠프 파호츠키 오픈AI 수석과학자 등도 이름을 올렸다. 개발을 멈추자는 게 아니라 안전성 검증과 사회의 대응 체계가 기술을 따라잡을 시간을 벌어야 한다는 취지다.

기술의 급격한 발전이 가져올 파급력에 대한 논란은 역사적으로 반복돼왔다. 19세기 영국에서는 증기기관과 자동 방적기 도입에 맞서 노동자들이 '러다이트 운동'을 일으켰다. 20세기 중반 원자폭탄 개발 직후에는 알베르트 아인슈타인을 비롯한 과학자들이 기술의 파괴적 잠재력과 통제 필요성을 주장했다. 1960년대 산업계의 자동화 바람 속에서 노벨상 수상자를 비롯한 저명 인사들이 미국 대통령에게 자동화가 대량 실업을 부를 것이란 경고를 보내기도 했다. 인터넷과 컴퓨터가 급속도로 보급됐던 20세기 말에도 대규모 실업과 정보 격차에 대한 논쟁이 있었다.

지난 역사를 보면 인류는 커다란 위기 없이 신기술을 사회 시스템 안으로 잘 흡수해 왔는데, 가장 큰 이유는 실제 기술의 발전 속도가 당시 기대치나 두려움에 비해 느렸다는 것이다. 즉 기술 혁신 속도가 인간과 사회 시스템이 따라잡을 수 있는 정도였다.

그러나 현재 진행 중인 AI의 발전 속도는 과거와 양상이 다르다. 생성형 AI와 거대언어모델(LLM)을 비롯한 최근 AI 기술 진화는 3~4개월 단위로 기존 한계를 돌파하고 있다. 빅테크들은 3~4개월 주기로 더욱 강력한 AI 모델을 경쟁적으로 쏟아내고 있다.

우려되는 점은 AI를 둘러싼 법적·윤리적 문제나 급격한 사회 변화에 따른 대안에 대한 논의 속도보다 AI가 현장에 적용되는 속도가 훨씬 빠르다는 점이다. 이미 직장에선 일자리 대체가 현실화하고 있고, 산업계에선 AI 인프라스트럭처 독점 우려가 단기간에 광범위하게 나타나고 있다. 과거와 다르게 인간·사회의 적응 속도와 기술 발전 속도 사이에 격차가 벌어지고 있는 것이다.

또 증기기관과 컴퓨터는 스스로 더 나은 증기기관과 컴퓨터를 설계하지 못했지만, 현재 AI는 스스로 설계, 코딩, 학습 알고리즘 수정을 통해 더 나은 지능을 가진 차세대 AI를 만들어내는 '재귀적 자기 개선(RSI)' 수준까지 올라왔다는 점에서 과거와 구조적으로 다르다. 속도 조절을 주장하는 실리콘밸리 연구자들도 이 점을 가장 크게 우려하고 있다.

인류가 이전에 경험해보지 못했던 기술적 전환점에 있다는 사실은 분명하다. 개인적으로는 AI 개발 속도 조절이 필요하다는 데 힘을 싣고 싶지만, 경쟁사의 신모델 출시와 투자 유치 압박 속에서 빅테크들이 진짜로 속도를 늦출 리는 만무하다. 'AI 혁명'이 과거처럼 자연스러운 적응 과정을 거칠지 아니면 새로운 대처 방식이 필요할지, 지금으로선 알 수 없다. 기술은 늘 기대와 우려라는 두 개의 축과 함께 진화해왔다. 과거 역사가 보여준 적응의 경험과 현재 눈앞에 닥친 전례 없는 발전 속도 사이에서 인류가 어떤 지혜로운 균형점을 찾아갈지 궁금하다.

[고재만 디지털테크부장]