인공지능과 인류의 미래, 전문가들의 초기 진단

Pew Research Center, “Artificial Intelligence and the Future of Humans”(2018년 12월 10일)

 

*전문가들은 인공지능의 발전이 향후 10년 동안 대부분의 사람들의 삶을 더 나아지게 할 것이라고 말하지만, 많은 사람들은 인공지능의 발전이 인간다움, 생산성, 그리고 자유 의지 행사에 어떤 영향을 미칠지 우려하고 있음

*디지털 세상은 인간의 능력을 향상시키고 오랜 세월 이어져 온 인간 활동을 뒤흔들고 있음. 코드 기반 시스템은 주변 정보와 연결성을 통해 전 세계 인구의 절반 이상에게 확산되어, 이전에는 상상할 수 없었던 기회와 전례 없는 위협을 동시에 제공하고 있음. 알고리즘 기반 인공지능(AI)이 계속해서 확산됨에 따라, 사람들은 지금보다 더 나은 삶을 살게 될까?

*전문가들은 네트워크로 연결된 인공지능이 인간의 효율성을 증대시키겠지만, 동시에 인간의 자율성, 주체성 및 역량을 위협할 것이라고 예측했음. 컴퓨터가 복잡한 의사 결정, 추론 및 학습, 정교한 분석 및 패턴 인식, 시각, 음성 인식 및 언어 번역과 같은 작업에서 인간의 지능과 역량을 따라잡거나 능가할 수 있는 광범위한 가능성에 대해 언급. 또한, 사회, 차량, 건물 및 공공시설, 농장 및 비즈니스 프로세스에 적용되는 "스마트" 시스템이 시간, 비용 및 생명을 절약하고 개인에게 더욱 맞춤화된 미래를 누릴 기회를 제공할 것이라고 전망

*많은 전문가들이 낙관적인 전망을 내놓으며 의료 분야, 특히 인공지능(AI)이 환자 진단 및 치료, 노인들의 건강 증진 등 다양한 분야에 활용될 가능성에 주목했음. 또한, 개인의 유전자 정보부터 영양 상태에 이르기까지 향후 축적될 방대한 데이터를 기반으로 구축될 공공 보건 프로그램에 AI가 기여할 수 있을 것이라는 점에 대해서도 큰 기대감을 나타냈음. 더 나아가, 여러 전문가들은 AI가 정규 및 비정규 교육 시스템의 급속한 변화를 촉진할 것이라고 예측.

*하지만 대부분의 전문가들은 낙관론 여부와 관계없이 이러한 새로운 도구들이 인간 본연의 모습에 미칠 장기적인 영향에 대해 우려를 표명했음.

*그럼에도, 대부분의 사람들은 인간이 더 나은 삶을 살게 될 것이라고 기대하고 있지만, AI가 지배하는 미래에 대한 불안과 불행한 문제들에 대해 자신의 생각을 전하고 있음

 

-버클리 법률기술센터 공동 소장이자 미국 상무부 디지털 경제 자문위원회 초대 위원인 소니아 카티알. “2030년에는 AI에 대한 인식과 그 응용이 미래 시민권의 궤적에 어떤 영향을 미칠 것인가 하는 문제가 가장 중요한 과제가 될 것이다. 사생활, 표현의 자유, 집회의 자유, 그리고 기술 인격체에 대한 질문들이 새로운 AI 환경 속에서 다시금 제기될 것이며, 모두를 위한 평등과 기회에 대한 우리의 가장 깊은 신념에 의문을 던질 것이다. 이 새로운 세상에서 누가 이득을 보고 누가 불이익을 받을지는 우리가 미래를 위해 오늘날 이러한 질문들을 얼마나 폭넓게 분석하느냐에 달려 있다.”

-MIT 디지털 경제이니셔티브 소장이자 "기계, 플랫폼, 군중: 디지털 미래를 활용하기"의 저자인 에릭 브린욜프손. "AI 관련 기술은 이미 많은 분야에서 인간을 초월하는 성능을 달성했으며, 2030년까지 그 능력이 크게 향상될 것이라는 데는 의심의 여지가 거의 없다. 나는 우리가 이 힘을 세상을 더 나은 곳으로 만드는 데 사용할 가능성이 높다고 생각한다. 예를 들어, 전 세계적인 빈곤을 사실상 없애고, 질병을 대폭 줄이며, 지구상의 거의 모든 사람에게 더 나은 교육을 제공할 수 있다. 하지만 AI와 머신러닝은 부와 권력을 더욱 집중시켜 많은 사람들을 소외시키고, 더욱 끔찍한 무기를 만드는 데 사용될 수도 있다. 어느 쪽 결과도 필연적인 것은 아니므로, 올바른 질문은 '무슨 일이 일어날 것인가?'가 아니라 '우리가 무엇을 선택할 것인가?'이다. 우리는 기술이 우리의 가치관에 부합하도록 적극적으로 노력해야 한다. 이는 정부, 기업, 학계, 그리고 개인의 선택에 이르기까지 모든 차원에서 이루어질 수 있고 또 반드시 이루어져야 한다."

-첨단 신경 인터페이스 개발 선도 기업인 커널(Kernel)과 벤처 캐피털 회사인 OS 펀드(OS Fund)의 설립자 겸 CEO인 브라이언 존슨. “해결책은 우리가 경제시스템을 전환하여 인간 발전을 우선시하고 AI 시대에 인간이 무의미해지는 추세를 막을 수 있는지에 달려 있다고 생각한다. 여기서 말하는 무의미함은 단순히 일자리 감소만을 의미하는 것이 아니다. 인간의 행복과 인지 능력을 우선시하지 않을 경우 궁극적으로 초래되는 진정한 존재론적 무의미함을 의미한다.”

-미래연구소 소장인 마리나 고르비스. "정치경제와 데이터 거버넌스 체제에 중대한 변화가 없다면 AI는 경제적 불평등 심화, 감시 강화, 그리고 프로그램화되고 인간 중심적이지 않은 상호작용을 초래할 가능성이 높다. 우리가 환경을 프로그래밍할 때마다 결국 우리 자신과 우리의 상호작용 방식까지 프로그래밍하게 된다. 인간은 상호작용에서 우연과 모호함을 제거하고 더욱 표준화되어야 할 것이다. 하지만 바로 이 모호함과 복잡성이야말로 인간 본연의 모습이다."

-“소셜 머신: 온라인 생활을 위한 디자인”의 저자이자 하버드대학교 버크만 클라인 인터넷사회센터의 연구원인 주디스 도나스. “2030년까지 대부분의 사회적 상황은 봇, 즉 인간과 유사한 방식으로 상호작용하는 지능적인 프로그램들에 의해 형성될 것이다. 가정에서는 부모가 숙련된 봇을 활용하여 아이들의 숙제를 돕고 저녁 식사 자리에서 대화를 이끌어갈 것이다. 직장에서는 봇이 회의를 진행할 것이다. 심리적 안녕을 위해 봇 친구가 필수적인 존재로 여겨질 것이며, 우리는 옷차림부터 결혼 상대까지 다양한 조언을 구하기 위해 점점 더 봇에게 의존하게 될 것이다. 인간은 타인이 자신을 어떻게 생각하는지에 깊은 관심을 가지고 있으며, 우리가 인정받고자 하는 대상은 점점 더 (인간이 아닌) 인공적인 존재가 될 것이다. 그때쯤이면 인간과 봇의 경계는 상당히 모호해질 것이다. 화면과 프로젝션을 통해 봇의 목소리, 외모, 행동은 인간과 구별할 수 없게 될 것이며, 비록 명백히 인간이 아니지만 물리적인 로봇조차도 너무나 실감나게 행동하여 인간과 로봇을 구분하기 어려울 것이다. 더욱 모호해지는 것은 우리의 소통 방식이 크게 증강될 것이라는 점이다. 프로그램이 우리의 많은 메시지를 작성하고, 우리의 온라인/증강현실(AR) 모습은 컴퓨터로 만들어질 것이다. 자연스럽고 꾸밈없는 인간의 말과 행동은 이제 어색하고 느리고 세련되지 못하게 보일 것이다. 우리 각자에 대한 방대한 데이터에 접근할 수 있게 된 봇은 우리를 매료시키고 설득하는 능력에서 인간을 훨씬 능가할 것이다. 감정을 능숙하게 모방할 수 있는 봇은 결코 감정에 휩쓸리지 않을 것이다. 만약 봇이 화를 내며 무언가를 내뱉는다면, 그것은 그들이 '마음에 품고 있던' 목표를 달성하는 가장 효과적인 방법이라고 계산된 행동일 것이다. 하지만 그 목표는 무엇일까? AI는 우리와 유사한 사회적 목표, 즉 사랑받는 친구나 존경받는 상사 등으로 인정받고 싶어하는 마음을 품고 ​​있는 것처럼 보이려 할 것이다. 그러나 AI의 진정한 협력 관계는 AI를 통제하는 인간과 기관 사이에서 만들어질 것이다. 예를 들어, AI는 소비를 촉진하기 위해 AI를 이용하는 상품 판매자와 여론 조작을 위해 그들을 고용하는 정치인들과 가장 가까운 관계를 맺을 것이다.”

-예일대학교 혁신적사고센터 소장이자 버락 오바마 대통령 재임 시절 미국 정부 부 최고기술책임자, 구글 글로벌공공정책 책임자를 역임한 앤드류 맥러플린. "2030년은 그리 멀지 않은 미래다. 인터넷과 AI와 같은 혁신은 단기적으로는 막대한 이점을 가져다주지만, 장기적으로는 그 부작용이 드러나기까지 수십 년이 걸릴 수 있다고 생각한다. AI는 광범위한 효율성과 최적화를 이끌어낼 것이지만, 보험, 구직, 성과 평가와 같은 분야에서 숨겨진 차별과 자의적인 불이익을 초래할 수도 있다."

-인터넷 주소 관리 기구(ICANN)의 초대 회장 겸 CEO이자 인터넷 명예의 전당 회원인 마이클 M. 로버츠. "지능형 에이전트가 인간의 지능을 향상시킬 수 있는 가능성은 여전히 ​​사실상 무한한다. 주요 문제는 에이전트가 편리할수록 사용자에 대한 더 많은 정보를 알아야 한다는 것이다. 이는 더 많은 도움을 줄수록 더 많은 사생활 침해가 필요한 관계를 만든다. 그런데 지금 추세를 보면, 편리함이 사생활 보호보다 우선시되어 왔다. 나는 이러한 추세가 계속될 것이라고 생각한다."

-마이크로소프트 수석 연구원이자 데이터 앤 소사이어티 연구소(Data & Society Research Institute) 설립자 겸 소장인 다나 보이드 (Danah Boyd). “인공지능은 인간이 권력 추구를 포함한 온갖 목적으로 사용할 도구다. 인공지능을 이용한 권력 남용이 있을 것이고, 과학 및 인도주의적 노력에도 인공지능이 활용될 것다. 불행히도, 대규모 불안정을 초래할 가능성이 있는 특정 추세들이 있다. 예를 들어 기후 변화와 기후 이주를 생각해 보라. 이는 유럽과 미국을 더욱 불안정하게 만들 것이며, 다른 지정학적 위기 상황에서 공황 상태에 빠진 사람들이 인공지능을 악용하는 것을 목격하게 될 것이다.”

-서테인 리서치의 설립자이자 대표인 배리 추다코프. "2030년까지 인간과 기계/인공지능의 협력은 광범위한 기술 발전, 세계화, 기후 변화 및 그에 따른 전 세계적인 이주와 같은 동시다발적인 가속화 현상의 영향을 관리하고 대응하는 데 필수적인 도구가 될 것다. 2030년까지 증가하는 '난제'들을 해결하기 위해, 인공지능(AI), 또는 '확장된 지능'은 인간 행동과 상호작용의 거의 모든 영역에 가치를 부여하고 재평가할 것이다. 내가 가장 두려워하는 것은 우리가 즉각적인 반응, 화면 뒤의 고립, 끝없는 자존감 비교, 가짜 자기표현과 같은 새로운 기술의 논리를 생각 없이, 그리고 현명하게 대응하지 않고 그대로 받아들이는 것이다.”

-IEEE 자율 및 지능형 시스템 윤리 글로벌 이니셔티브 및 확장 지능 위원회의 전무이사인 존 C. 헤이븐스. "전 세계 대다수의 사람들은 자신의 데이터에 접근할 수 없다. 따라서 '인간-AI ​​증강'에 대한 논의는 누가 실제로 사람들의 정보와 신원을 통제하는지에 대한 중요한 맥락을 무시하는 것이다.”

-워싱턴대학교 정보대학원의 인간-컴퓨터 상호작용 교수인 바티아 프리드먼. “우리의 과학 기술적 능력은 도덕적 능력, 즉 우리가 개발한 지식과 도구를 현명하고 인간적으로 사용하는 능력을 훨씬 능가해 왔으며 앞으로도 그럴 것이다. 자동화된 전쟁, 즉 자율 무기가 인간의 개입 없이 인간을 죽이는 전쟁은 적의 생명을 앗아간 것에 대한 책임감의 부재, 심지어 적의 생명이 빼앗겼다는 사실조차 인지하지 못하는 상황으로 이어질 수 있다. 결국 우리가 어떤 사회에서 살고 싶은지, 그리고 인간성을 어떻게 경험하고 싶은지에 대한 근본적인 질문이 제기된다.”

-카네기멜론 대학교 CERT 부서의 수석 과학자 인 그렉 섀넌. "AI는 개인을 감시하고, 강제하고, 심지어 처벌할 수 있는 의미있는 지적 능력을 가진 존재를 만들어냄으로써 개인의 자율성을 침해한다. AI를 사용하는 방법을 아는 사람은 그렇지 못한 사람에 대해 막대한 권력을 행사할 수 있다. 미래의 행복은 불확실하다. 어떤 사람들은 게임, 직장, 사회생활에서 AI에게 자신의 자율성을 양보할 것이다. 반면에 많은 사람들은 단조롭고 재미없는 일에서 해방될 것이다."

-코스타스 알렉산드리디스. "우리의 일상적인 많은 결정들이 최종 사용자의 개입을 최소화하면서 자동화될 것이다. 자율성이나 독립성은 희생되고 편리함으로 대체될 것이다. 새로운 시대의 시민들은 네트워크로 연결된 AI 구조와 프로세스에 점점 더 의존하게 될 것이다. 비판적 사고와 다양성 측면에서 해결해야 할 과제들이 있다. 네트워크 상호의존성은 사이버 공격에 대한 취약성을 증가시킬 가능성이 높다. 또한 디지털 '가진 자'와 '가지지 못한 자' 사이, 그리고 기술 의존적인 디지털 인프라에서 더욱 뚜렷한 격차가 발생할 가능성도 크다. 디지털 네트워크 인프라의 소유권과 통제권을 둘러싼 새로운 '지배적 지위'에 대한 문제가 남아 있다."

-에든버러 대학교의 융합예술학 교수인 사이먼 빅스. “AI는 인간의 능력을 향상시키는 역할을 할 것이다. 문제는 AI가 아니라 인간이다. 인간은 공격적이고 경쟁적이며 게으른 종이다. 하지만 동시에 공감 능력이 뛰어나고 공동체 의식이 강하며 (때로는) 자기희생적이기도 하다. 이 외에도 많은 특성을 가지고 있다. 이러한 특성들이 모두 증폭될 것이다. 역사적 선례를 보면, 가장 나쁜 특성들이 증폭될 것이라고 예상할 수밖에 없다. 나는 2030년에는 AI가 전쟁을 치르고 사람을 죽이는 데 일상적으로 사용될 것이며, 현재 우리가 할 수 있는 것보다 훨씬 더 효과적으로 사용될 것이라고 예상한다. 사회는 현재보다 AI의 영향을 덜 받을 것이다. 왜냐하면 우리가 직접 싸우고 죽이지 않을 것이기 때문이다. 공감과 그에 따른 윤리적 틀에 따라 행동을 수정할 수 있는 우리의 능력은, 우리의 주체성과 살인 행위 사이의 분리로 인해 감소할 것이다. 우리는 AI 시스템이 우리를 대신하여 윤리적일 것이라고 기대할 수 없다. AI 시스템은 효율적으로 죽이도록 설계되었지, 사려깊게 죽이도록 설계되지 않았기 때문이다. 내가 가진 또 다른 주요 우려는 감시와 통제와 관련있다. 중국의 사회 신용 시스템(SCS)의 등장은 앞으로 어떤 일이 벌어질지 보여주는 지표입니다. 우리는 인공지능이 우리와 비슷할 수도 있고 그렇지 않을 수도 있는 혼합형 자아를 만들어내는 SCS 안에서 존재하게 될 것이다. 하지만 개인으로서 우리의 권리와 활동은 SCS에 의해 결정될 것이다. 이것이 바로 오웰의 악몽이 현실이 된 것이다.”

-미디어 학자이자 MIT 비교미디어학 교수인 윌리엄 유리키오. “인공지능(AI)과 관련 응용 프로그램은 세 가지 문제에 직면해 있다. 무어의 법칙 속도로 발전하고 있다는 점, 기술 및 경제 엘리트의 손에 의해 개발되고 있다는 점, 그리고 정보에 밝고 참여적인 대중의 참여 없이 개발되고 있다는 점이다. 대중은 차세대 기술을 기다리는 소비자 집단으로 전락했다. 누구의 ‘진보’ 개념이 승리할까? AI가 오랫동안 지켜온 가치에 미치는 영향은 고려하지 않고 이윤 추구를 위해, 정부 통제를 강화하기 위해, 심지어 시민들의 의견을 수렴하지 않고 ‘사회 신용’을 평가하기 위해 사용되고 있다는 증거는 충분하다. 이전 기술들과 마찬가지로 AI는 중립적이다. AI의 활용은 사회의 손에 달려 있다. 하지만 AI에 대한 이해도가 낮은 대중이 있다면, AI를 어떻게 가장 효과적으로 활용할지에 대한 결정은 특정 이익 집단의 몫이 될 것이다. 이것이 공평한 AI 활용, 사회적 불평등 해소, 그리고 공공 서비스 분야에서의 AI 도입을 의미할까? 이 질문에 대한 답은 기술적인 문제라기보다는 사회적인 문제이기 때문에 나는 비관적이다. 해결책은 무엇일까? AI에 대한 이해도가 높은 대중을 육성해야 한다. 즉, AI에 대한 집중적인 관심이 필요하다는 뜻이다. 교육 분야와 대중 매체를 포함한 다양한 분야에서 AI 기술 개발의 다양성을 보장해야 한다. 그리고 대중, 선출된 대표자, 그리고 그들의 법률 및 규제 체계가 이러한 빠른 발전에 발맞춰 나갈 때까지 AI 개발에 있어 신중을 기하고 감독해야 한다.”

 

(번역/구글, 번역 수정 및 정리/NPs)