구글의 AI가 조작당하고 있다. 검색 대기업 구글은 조용히 반격에 나섰다.

NPS 2026. 5. 22. 12:54

(출처 – Thomas Germain, Google's AI is being manipulated. The search giant is quietly fighting back, bbc.com/2026년 5월 19일)

토마스 저메인

1. 문제 발견

*BBC의 조사에 따르면 AI 챗봇이 대중에게 허위 정보를 퍼뜨리도록 만드는 간단한 방법이 밝혀졌음

*AI 챗봇을 조작해서 거짓 정보를 퍼뜨리게 만드는 쉬운 방법이 있으며, 악덕 기업들이 이를대규모로 악용하고 있음

*ChatGPT, Gemini, 그리고 구글 검색 상단에 있는 AI 개요들이 사람들의 건강이나 개인 재정처럼 심각한 주제에 대해 편향된 답변을 제공하도록 조작된 사례들을 발견했음

*실험 – AI 이용자가 ChatGPT와 구글 등을 속여 거짓정보를 알려주고 퍼트리는 것은 아주 쉬운 일

*구글도 이 문제를 해결하기 위해 정책을 업데이트했고, 다른 AI 기업들도 따르고 있음

*검색 엔진 최적화(SEO) 및 AI 검색 컨설팅 회사인 알고리즘믹(Algorythmic)의 설립자 릴리 레이는 "더 나은 시스템이 마련될 때까지는 조작당하고 있다고 가정해야 합니다."라고 말함

"우리는 '하나의 정답'만 있는 세상으로 나아가고 있습니다. 예전에는 구글이 10개의 파란색 링크를 보여주고 사용자가 직접 추가 조사를 하도록 했습니다. 하지만 AI는 단 하나의 정답만 제시합니다. 그래서 모든 것을 액면 그대로 받아들이기가 너무 쉬워집니다. 조심해야 합니다."

*구글을 비롯한 여러 기업들이 이 문제를 해결하기 위해 노력을 강화하고 있는 것으로 보임. 그럼에도 불구하고, 사람들이 여전히 세계 최대 검색 엔진을 속이기 위해 똑같은 수법을 사용하고 있다는 증거가 있음.

*일반적으로 챗봇에게 질문을 하면 AI는 모델에 내장된 데이터를 기반으로 답변을 생성함

*하지만, ChatGPT, Claude, 그리고 구글의 다양한 AI 제품과 같은 도구들은 때때로 인터넷에서 답변을 검색하기도 함. 바로 이 부분에서 문제가 발생함.

*AI 도구는 종종 단일 웹 페이지나 소셜 미디어 게시물에서 정보를 추출하여 보여줌. 이로 인해 해당 시스템은 허위 정보에 취약해짐

*챗봇이 대중에게 제공하는 정보를 조작하는 것은 온라인 어디에든 잘 작성된 블로그 게시물 하나만 올리면 될 정도로 간단했음. 사람들은 이 사실을 알아채고 재빨리 돈벌이 기회를 포착했음(사례 - 건강 보조 식품에 대한 우려를 일축하거나 구글의 AI가 제공하는 은퇴 관련 금융 정보에 영향을 미치는 정보에도 똑같은 수법이 사용되고 있음)

*전문가들은 이러한 조작이 광범위하고 체계적인 수준에서 일어나고 있다고 말함

*이처럼, 편향되거나 부정확한 정보는 잘못된 결정을 내리게 할 수도 있음

*SEO 컨설팅 회사인 Harps Digital을 운영하는 하르프리트 차타의 말

"가장 기본적인 차원에서 우려되는 점은 경제적 영향입니다. 더 심각한 문제로는, 잘못된 의료 조언을 받아들여 이전보다 더 병이 악화될 수도 있고, 법적으로는 잘못된 정보를 얻어 거주하는 주 또는 국가에서 불법적인 행위를 저지를 수도 있습니다."

2. 해결책은 있을까?

*전 세계적으로 10억 명이 넘는 사람들이 AI 챗봇을 정기적으로 사용하고 있으며, 매달 25억 명이 구글의 AI 개요를 살펴봄. 이러한 도구를 무력화할 수 있다면 엄청난 힘을 얻게 되는 것

*하지만 구글을 비롯한 여러 기업들이 마침내 이 문제의 심각성을 깨닫고 있는 것 같음

*구글은 스팸 정책을 업데이트하여 AI 응답을 조작하려는 시도가 회사 규정 위반임을 공식적으로 밝혔음. 이는 사소한 변화처럼 보일 수 있지만, 구글이 시스템을 악용하려는 사람들을 적극적으로 찾아내고 경고를 보내는 신호임. 기업이나 웹사이트가 규칙을 위반하는 것이 적발되면 구글 검색 결과에서 제외되거나 순위가 하락할 수 있음. 구글에 등록되지 않으면 존재하지 않는 것과 마찬가지임.

*구글은 2025년에 스팸 방지 AI 개발 계획을 자세히 발표했음. 하지만 문제는 그 이후에도 계속 발생되고 있다는 것. 효과가 없었음을 보여줌.

*구글을 비롯한 여러 AI도구들이 답변에 확신이 없다는 것을 알려주는 사례도 계속 발견됨

*구글이 조작적인 블로그 게시물에 대한 단속을 강화함에 따라 기업들은 더욱 교묘한 홍보 방식을 찾고 있음.

"유튜브 인플루언서 20명에게 돈을 주고 자사 제품이 최고라고 홍보하게 하는 것은 막을 방법이 없다“

*구글의 AI는 유튜브 영상을 인용하기 시작했음. 악순환은 계속될 것.

*당분간은 조작자들이 한발 앞서 나갈 가능성이 높음.

*최선의 방어책은 인공지능의 본질을 기억하는 것. 인공지능은 옳든 그르든 간에 확신에 찬 하나의 답만 제시하는 도구일 뿐. 거대 기술 기업이 무작위 웹사이트가 아닌 당신에게 말을 걸고 있다고 해서 무조건 믿어서는 안 됨

저작자표시 비영리 변경금지 (새창열림)