AI를 국가나 소수 빅테크 기업의 독점물로 만들지 말자

국내외 주식 시장 모두 AI 버블 경고음을 듣고 있다. 뜨겁게 달아오르고 오래 지속될 것 같았던 AI 관련 기업들의 주가가 하락하고 있다. 미국의 S&P500 지수를 이끌어 온 빅테크 기업과 기술 관련 기업 7곳, 이른바 "매그니피센트 7"의 주가가 급락하고 있다. 한국의 KOSPI 지수 상승을 이끌었던 반도체 대기업들의 주가도 급속 냉장 상태를 반복하고 있다.

 

AI 모델이 빠른 속도로 업그레이드되고 새로운 기능들이 선보이고 있지만, AI 기업들이 어디서, 얼마나 수익을 올리고 있는지 알 수 없다. 떼돈을 벌 것 같았지만, 제대로 수익을 올렸다는 기업은 없다. 공공 투자와 민간 투자가 AI와 데이터센터, 핵심 인프라 부문에 집중되고 있지만, 투자금을 제대로 회수할 수 있을지도 의문이다. 투자 소득은커녕 AI, 반도체, 데이터센터 대출 부실화에 따른 금융위기설이 나오고 있다. AI의 실제 활용과 이로 인한 산업 전반에 걸친 생산성 향상을 포함한 ‘거대한 전환’이라는 슬로건 자체가 의심스러울 지경이다.

 

AI 산업을 떠받쳐야 하는 반도체 기업이나 에너지 분야도 고개를 갸우뚱하고 있다. 반도체 수요가 급증하고 반도체 시장은 폭발적으로 성장할 것 같았는데 불안요소가 너무 많다. 중단없는 생산과 수요 대응력을 확신할 수 없다. 그 많은 물과 전기를 중단없이 만들어 낼 수 있을지 그 누구도 장담할 수 없다. 반도체 공장이나 데이터센터가 주변 환경에 부정적인 영향을 미친다는 것을 알고 있는 시민들은 AI 탈규제 정책과 속도전 정책에 반대 깃발을 들고 서있다. 여기에 종교인, 학자, 언론인, 정치인, 사회활동가 등 뭇사람들이 AI가 인간세계에 가져올 위험성을 경고하고 있다.

 

더 큰 문제가 있다. 바로 ‘도대체 누가, 어떤 AI를 개발하고, 어디에 사용하려고 하는 것인지’를 극소수만이 알고 있고, AI에 대한 통제권 또한 이들의 손안에 놓여 있다는 점이다. AI 연구·개발자들이 통제 불가능하고 믿을 수 없는 AI의 실체를 폭로하며 AI 기업을 떠나는 일들이 이어지고 있다. 또 사회적 소수를 희생시키는 편향적 데이터를 먹이로 삼는 AI의 위험성에 대한 경고도 뒤따르고 있다.

 

이제 AI는 ‘정치’의 영역이 되었다. AI를 몇몇 국가나 빅테크 기업들의 손에만 맡겨놓을 수 없다는 주장들이 부상하고 있다. 국가와 빅테크 기업의 AI 소유권과 통제권 독점을 막는 것이 민주주의의 새로운 과제가 될 것이라는 생각이 공감대를 형성하고 있다. 가장 강력한 AI 모델 대부분이 이윤 극대화를 추구하는 소수의 대형 기술 기업에 의해 소유되고 있다는 사실을 외면할 수는 없다.

 

이들 기업은 대중의 의견 수렴이나 투명성 확보 없이 모델 학습에 사용할 데이터와 시스템에 반영할 ‘편향된’ 가치를 선택한다. AI는 공익을 위한 도구가 아닌 사적 권력의 도구로 전락할 위험에 직면해 있다. 게다가 일부 국가의 정치 행위자들은 AI를 감시체계의 확장을 위해 악용하거나, 수익과 기술 권력을 추구하는 소수 빅테크 기업들에게 유리한 정책이나 탈규제 프래임에 우선성을 두고 있다.

 

IE 대학 ‘변화 거버넌스 연구소’의 로치(Alex Roche)와 루이즈(Violeta Ruiz)는 “AI 모델은 설계 단계부터 민주적이어야 한다. 도구의 사용 방식뿐 아니라, 개발 및 훈련 방식 자체가 민주적 가치를 존중하고 증진하는 데 초점을 맞춰야 한다는 점이 중요하다”며, AI의 민주화를 위해 ‘인간 피드백 기반 강화 학습(RLHF)’이나 ‘가치 중심 설계(VSD)’와 같은 대안을 제시하기도 한다. AI 설계 단계에서부터 다양한 이해관계자가 참여하고, 광범위한 사람들이 AI가 따라야 할 가치와 규칙을 설정하는 데 참여해야 한다는 생각이다.

 

아직 늦지 않았다. 국가와 빅테크 기업에게만 AI의 운명을 맡기지 않아야 한다는 생각을 인정해야 한다. AI가 다원적 가치에 부합하도록 만들고, AI의 미래를 인간과 사회가 진정으로 원하고 필요로 하는 것에 맞출 수 있는 비전을 공유해야 한다. ‘민주적 AI’나 ‘주권적 AI’ 개념의 출현에 주목해야 한다. 국가 주도형 AI 개발이나 소수의 거대 빅테크 기업 주도형 AI 개발의 위험성을 자유롭게 말하고 토론할 수 있어야 한다. 서둘러야 한다. ‘AI 민주주의’가 배제된 AI 개발 속도전에 저항선을 만드는 정치가 필요하다.