Executive Summary

주요 수치

네 숫자를 뽑았다. 앞의 둘은 성능 주장에 근거가 얼마나 붙어 있었는지를, 뒤의 둘은 한계 공개와 윤리 우려 쪽을 가리킨다.

출처: Pranav, Hartmann & Lauscher (2026), arXiv:2610.11788.

AI 워싱(AI-washing)은 그린워싱에서 온 말이다. 실제로 들어 있는 AI보다 광고에 등장하는 AI가 클 때 붙는 이름인데, 그동안은 사례를 모아 놓은 이야기였지 숫자로 재어 놓은 현상은 아니었다. 함부르크대 Trustworthy AI Lab의 연구진이 이번에 그 자리를 메웠다. 논문은 AIES 2026에 채택됐고, 사전 공개본이 10월 8일 arXiv에 올라왔다.

왜 지금 이걸 세어 보는지는 논문 도입부가 설명한다. 2025년에 문을 연 독일 스타트업 가운데 45.1%가 AI를 핵심 제품 요소로 내걸었고, 제품을 AI 중심으로 내세운 창업자가 그렇지 않은 쪽보다 자금을 더 쉽게 모은다는 조사도 함께 인용돼 있다. AI라고 적는 쪽으로 돈이 흐르면, AI라고 적을 이유는 제품 안에 AI가 들어 있는지와 따로 생긴다.

표본은 독일의 공개 스타트업 디렉토리 두 곳에서 뽑은 100곳이다. 아직 상장하지 않았고, 웹사이트가 살아 있고, 공개 마케팅에 AI 주장이 있는 곳만 남겼다. 77곳이 기업 대상 사업이고, 절반이 2022년 이후에 세워졌다. 금융, 이커머스, 헬스케어, 리걸테크, 물류, 인사까지 업종은 흩어져 있다.

채점은 사람이 했다. 저자 두 명이 스타트업 한 곳에 평균 한 시간을 썼다. 홈페이지만 보지 않고 기술 설명 페이지와 작동 원리 페이지를 따라 들어갔고, 무료 체험이나 데모가 있으면 실제로 돌려 봤으며, 펀딩 단계와 팀 규모는 외부 데이터베이스로 교차 확인했다. 겹쳐 채점한 10곳에서 두 사람의 일치도는 코헨의 카파 0.82, 종합 점수만 보면 0.86이었다.

눈여겨볼 것은 7개 항목이 어디서 나왔는지다. 연구진은 기준을 먼저 세우고 사례를 맞춰 넣지 않았다. 아무 틀 없이 30곳을 먼저 읽어 반복되는 패턴 다섯 가지를 찾아낸 다음, 그것을 항목으로 굳혔다. 'AI'가 이름표뿐이고 기능이 안 잡히는 경우, 남의 API를 자기 제품처럼 다시 포장한 경우, 출처 없는 성능 수치, 첫 화면이 기술 페이지보다 더 많이 약속하는 경우, 윤리적으로 민감한 용도가 밝은 AI 문구 뒤에 숨은 경우다.

▲ 연구진이 쓴 7개 항목. 항목 이름과 정의는 논문 Table 1을 한국어로 옮겼다.

일곱 항목을 합쳐 1에서 5까지의 종합 점수를 냈다. 1은 투명하고 비례가 맞고 근거가 있는 상태이고, 5는 여러 항목에 걸쳐 사실을 오도하는 상태다. 연구진은 개별 기업에 반론 기회를 주지 않았다고 밝히면서, 이 연구가 특정 회사의 잘잘못이 아니라 모집단 전체의 유병률을 다루기 때문이라고 적었다.

인터뷰는 서면 53명과 화상 10명으로 나뉜다. 개발, 영업, 마케팅, 관리 직군과 저널리즘, 규제, 헬스케어 쪽 전문가가 섞였고, 68%가 자기 AI 친숙도를 5점 만점에 4점 이상으로 매겼다. 연구진은 이 집단이 독일 소비자를 대표하지 않는다고 분명히 적어 두었다. 오히려 AI 주장을 실제 기술과 맞대 볼 능력이 가장 높은 쪽을 일부러 모은 설계다.

채점 결과부터 보면 바탕이 깔린다. 100곳 중 59곳은 AI가 무엇을 하는지 유행어 수준으로만 적었고, 35곳은 자체 기여라 할 만한 AI가 아예 없거나 남의 대규모 언어 모델을 감싼 껍데기였다. 40곳은 제품 안의 실제 역할보다 더 큰 지면을 AI에 내줬다. 실체가 얇을수록 광고가 커지는 관계는 통계로도 잡혔다. 기술의 실체와 마케팅 비례 사이의 상관은 0.51로, 일곱 항목을 두 개씩 맞대 본 모든 짝 가운데 가장 강했다.

누가 창업했는지에 따라서도 갈렸다. 경영 쪽 배경만 가진 창업자로 이뤄진 스타트업은 기술 배경 창업자가 있는 곳보다 AI 능력을 부풀리는 정도가 유의하게 컸고(Mann-Whitney U=287, p=0.003), 제품 속 역할에 견줘 마케팅 비중을 키우는 정도도 그랬다(U=76, p=0.002). 다만 이 비교는 두 집단 사이의 차이를 보여줄 뿐 원인을 가리키지는 않는다.

인터뷰에 참여한 한 AI 연구자는 이 구조를 한 문장으로 정리했다. 논문이 옮긴 말은 이렇다.

"결국 API 키 하나 꽂은 번지르르한 인터페이스일 뿐이다. 1년치 빠른 현금벌이다."

— 독일 스타트업 업계의 AI 연구자(논문 참여자 P2), 논문이 독일어에서 영어로 옮긴 것을 다시 한국어로 옮겼다

연구진은 과장이 드러나는 자리를 세 가지로 나눴다. 셋은 서로 다른 거짓말이 아니라, 같은 주장에서 빠져 있는 서로 다른 부품이다.

▲ 페블러스 원본 도식. 과장이 나타나는 세 자리와 각 자리의 적발 건수(100곳 표본 기준).

2.1확인할 길 없는 주장

43곳이 외부에서 확인할 방법이 없는 상태로 AI 능력을 주장했다. 근거를 내놓은 곳도 대부분 고객사 로고, 회사 이름이 지워진 사례 연구, 회사가 통제한 환경에서 찍은 데모였다. 밖에 있는 사람이 같은 조건을 재현해 볼 수 없는 형태들이다. 외부 기관이 검증한 벤치마크를 내놓아 최고 등급을 받은 곳은 100곳 중 2곳이었다.

확인할 길이 없을수록 문장은 세진다. 논문이 사례로 든 리걸테크 회사의 홈페이지 문구가 그렇다.

"우리는 할루시네이션 없는 AI를 개발합니다. 우리 AI는 아무것도 지어내지 않습니다."

— 논문 Table 2가 인용한 독일 리걸테크 스타트업 마케팅 문구, 한국어로 옮겼다

확인할 길이 없다는 말의 뜻은 주장이 실제로 깨지는 자리에서 드러난다. 어느 자동차 음성 AI 회사는 '인간 동료와 나란히 생각하고 말하고 행동하는 디지털 직원을 개발한다'고 적었다. 연구진의 채점에서 이 회사는 주장의 구체성도, 마케팅 비례도 5점 중 2점이었다. 연구진은 이 문구 옆에 인터뷰 참여자 한 사람의 경험을 나란히 놓았다. 그 사람은 자기가 써 본 음성 시스템을 두고 "전화번호에 2가 들어가면 걸 수가 없다. 시스템이 내가 2를 발음하는 방식을 알아듣지 못한다"고 적었고, 독일 억양에 편향된 AI를 왜 써야 하느냐고 되물었다.

2.2측정 방법 없는 성능 수치

성능을 숫자로 내세운 곳은 62곳이었다. 그중 49곳이 그 숫자의 출처와 측정 방법을 전혀 적지 않았다. 출처와 방법을 모두 밝혀 최고 등급을 받은 곳은 한 곳도 나오지 않았다. 가장 흔한 꼴은 상한만 적은 비율과 견줄 대상이 흐린 배수다. 생산 최적화 회사 한 곳은 "우리 AI는 기업의 생산 비용을 최대 96%까지 아껴 줍니다"라고 적었다. 어떤 경우에 96%가 되는지, 무엇에 견준 값인지는 없다. 무인 매장 회사는 "업계 평균보다 도난이 10배 적다"고 적었다. 이쪽은 견줄 대상을 이름으로 대기는 했지만, 어느 업계의 어떤 측정인지도 언제를 기준으로 한 값인지도 적혀 있지 않다.

수치 주장을 한 62곳 안에서만 보면, 뒷받침이 약한 곳일수록 종합 점수가 높았다. 숫자가 아예 없는 것보다 근거 없는 숫자가 더 나쁜 신호라는 뜻이다. 숫자는 검증 가능해 보이는 겉모습을 주기 때문에, 조건이 빠진 숫자는 모호한 형용사보다 독자를 더 멀리 데려간다.

논문이 인용한 콜센터 음성 AI 회사의 문구에는 만족도 지표가 하나 박혀 있다. "대규모 언어 모델과 사람 같은 음성, 콜센터 배경음을 써서 고객 만족도 90% 이상을 달성합니다." 그 값이 어떤 조사에서 몇 통의 통화를 대상으로 무엇과 견줘 나왔는지는 그 문장이 말하지 않는다. 자료를 받아 보는 쪽이 할 수 있는 일은 믿거나 안 믿거나 둘 중 하나로 줄어든다.

2.3한계를 적지 않은 단언

76곳이 마케팅 어디에도 한계를 적지 않았다. 어떤 경우에 틀리는지, 정확도가 어디서 무너지는지, 어떤 데이터가 있어야 작동하는지, 사람이 중간에 확인해야 하는 단계가 있는지가 전부 빠져 있었다. 이 항목에서 최고 등급을 받은 곳은 7%였다.

한계를 적는 일이 불리하기만 한 것은 아니다. 조건을 적어 두면 그 조건 밖에서 생긴 실패는 제품 결함이 아니라 범위 밖의 일이 된다. 그런데도 넷 중 셋 이상이 그 칸을 비워 두었고, 두 곳은 반대쪽으로 더 나아가 AI가 실패하지 않는다고 약속했다. 어느 현장 영업 AI는 "미리 내다보고, 교정에서 배우고, 일을 놓치는 법이 없습니다"라고 적었다. 직원이 "무엇이든" 물어보면 "완벽하게 검증된 답을 즉시" 받는다고 적은 지식 관리 플랫폼도 있다.

과장 광고의 비용은 보통 속은 사람 한 명의 손해로 계산된다. 이 연구가 잰 비용은 두 군데에 있다. 하나는 그다음 광고를 보는 모든 사람에게 넘어가고, 다른 하나는 광고를 보지도 않은 사람에게 넘어간다.

3.1겪은 사람은 다음 광고를 덜 믿는다

서면 응답자의 53%가 소비자로서든 직장인으로서든 AI 워싱을 직접 겪었다고 답했다. 연구진은 두 집단에게 'AI 탑재'라는 라벨을 얼마나 믿는지 5점 척도로 물었다. 겪은 적 있는 쪽의 평균은 1.71, 겪은 적 없는 쪽은 2.48이었다. 중앙값은 1과 3으로 갈렸고, 두 분포의 차이는 통계적으로 유의했다.

▲ 페블러스 원본 도식. AI 워싱을 겪은 응답자와 겪지 않은 응답자가 'AI 탑재' 라벨을 믿는 정도(5점 척도).

중요한 것은 두 집단이 AI 친숙도에서는 유의하게 갈리지 않았다는 점이다. AI를 더 많이 알아서 의심이 깊어진 것이 아니라, 과장을 한 번 목격한 경험이 그다음 문구의 해석을 바꿨다. 연구진은 이것을 설득 지식으로 설명한다. 설득하려 든다는 사실을 알아차린 순간, 같은 메시지가 다른 메시지가 된다는 오래된 이론이다.

어느 응답자는 자기 경력 전체를 한 문단으로 요약했다.

"내 경력 내내 AI 능력은 늘 체계적으로 부풀려 주장됐다. 혜택은 자주 과하게 팔렸고 비용은 축소됐다. … AI 도구는 학습 데이터와 그에 딸린 한계에서 떼어 낸 채 제시됐고, 성능은 최종 사용자의 실제 쓰임으로 일반화될지를 따지지 않은 방식으로 보고됐다."

— 대학원에 가기 전 두 직장에서 같은 일을 본 응답자(논문 참여자 P18), 영어 응답을 한국어로 옮겼다

3.2규제 고위험 용도가 평범한 제품으로 보인다

연구진은 마케팅 태도와 따로, 용도 자체의 위험도 채점했다. 100곳 중 19곳이 심각한 윤리적 우려로, 또 19곳이 보통 수준의 우려로 분류됐다. 합하면 38곳이다. 건수가 많은 하위 범주는 감시, 규제 업종에서의 자동 의사결정, 행동 추적과 조작이었다. 연구진은 이 용도들이 EU AI Act가 고위험이나 금지로 분류하는 범주에 들어간다고 적었다.

자동 의사결정 쪽의 사례 하나는 체외수정 배아 선별이다. 임상·실험실 데이터를 종합해 가장 좋은 배아를 고른다는 제품인데, 논문은 이 부류의 선두 상용 시스템이 무작위대조시험에서 숙련 배아학자를 넘어서지 못했다는 2024년 연구를 바로 옆에 붙여 두었다. 또 하나는 음성 녹음으로 아동 자폐 스펙트럼을 선별하고 가족을 치료사와 이어 준다는 플랫폼이다. 이 가운데 치료 항목에는 서면 응답자의 81%가 5점 중 하위 2점을 줬다. 설문 전체에서 가장 회의적인 반응이었다.

감시 쪽에서는 한 참여자가 자기가 일했던 회사를 이야기했다. 쇼핑몰 CCTV로 방문객 동선을 분석하던 스타트업인데, 투자자에게는 매장에서 절도범을 알아낼 수 있다는 식으로 팔았고 실제로는 그러지 못했다고 적혀 있다. 여기서 과장의 피해자는 제품을 산 사람이 아니다. 카메라 앞을 지나간 사람들이다.

세 번째 범주인 행동 추적과 조작에서는 고지 여부가 쟁점이다. 행동분석 제품 하나는 방문자의 행동을 읽어 실시간으로 화면을 바꿔 전환율을 올린다고 적었는데, 화면이 바뀌고 있다는 사실을 방문자에게 알린다는 내용은 없다. 논문은 이 사례 옆에 쇼핑 사이트 1만 1천 곳의 다크 패턴을 목록으로 만든 2019년 연구를 함께 실었다. 참여자 가운데 한 투자자는 독일의 한 무역박람회에서 지나가는 사람의 지문과 홍채, 손금을 받아 '심리 평가' 결과를 인쇄해 주는 부스를 봤다고 적었다. 받은 생체 정보를 어떻게 처리하는지는 어디에도 적혀 있지 않았다.

세 범주가 공통으로 하는 일은 규제 등급을 가리는 것이다. 같은 기능을 '공공안전 지원'이나 '최적의 선택을 돕는 AI'로 부르면, 고위험으로 분류될 시스템이 평범한 소프트웨어 제품처럼 읽힌다. 앞의 두 발견이 구매자와 투자자의 돈과 신뢰에 관한 것이라면, 이쪽은 그 시스템이 바라보는 사람들에게 넘어가는 비용이다.

독일 표본이라 남의 집 이야기로 읽기 쉽지만, 국내에도 같은 꼴의 적발 기록이 있다. 공정거래위원회는 2025년 11월 7일 한국소비자원과 함께 국내 주요 오픈마켓의 가전·전자제품을 모니터링한 첫 실태조사 결과를 내놨다. AI 워싱 의심 사례 20건을 찾아 사업자 소명을 거쳐 자진 수정이나 삭제로 정리했다.

20건의 내역이 논문의 항목과 거의 그대로 겹친다. 19건은 제품명에 'AI'를 넣거나 기능을 부풀린 경우다. 냉풍기의 온도 센서, 제습기의 습도 센서처럼 학습에 기반하지 않은 단순 센서 제어를 AI 기능으로 적은 사례가 여기 들어간다. 공정위는 이런 표현을 '자동 온도 조절' 같은 말로 고치거나 지우게 했다. 나머지 1건은 작동 조건을 밝히지 않은 경우다. 세탁물이 적을 때만 AI 모드가 적용되는데 그 조건이 상품 페이지에 없었다.

마지막 1건이 논문의 '한계의 공개' 항목과 같은 자리를 가리킨다. 기능이 거짓은 아닌데 작동하는 범위가 빠져 있는 경우다. 독일에서 76곳이 비워 둔 칸을, 국내 쇼핑몰에서는 규제기관이 한 건 집어낸 셈이다.

같이 돌린 소비자 인식조사에서는 3,000명 중 57.9%가 AI 기술이 들어간 제품이라면 더 비싸도 사겠다고 답했고, 이들이 더 낼 의향이 있다고 밝힌 금액은 평균 20.9%였다. 한편 67.1%는 AI 기술이 실제로 적용된 제품인지 구분하기 어렵다고 답했다. 돈은 더 낼 의향이 있는데 무엇에 내는지는 확인할 수 없는 상태가 두 숫자 사이에 있다. 공정위는 이 결과를 바탕으로 2026년 중 AI 관련 부당한 표시·광고 가이드라인을 마련하겠다고 밝혔다.

이 뉴스는 보통 '요즘 AI 스타트업이 거품이다'라는 이야기로 소비된다. 데이터를 다루는 쪽에서 보면 다른 문제가 보인다. 성능 수치는 그 자체로는 아무 값도 아니고, 어떤 데이터에서 어떤 조건으로 얻었는지가 붙어야 비로소 비교할 수 있는 값이 된다. 같은 모델이라도 평가 데이터가 바뀌면 숫자가 바뀐다. 그래서 측정 방법이 빠진 '정확도 몇 %'는 틀린 주장이라기보다 검증할 수 없는 주장이고, 검증할 수 없는 주장은 광고 문구와 같은 자리에 선다.

벤더 자료를 받아 보는 쪽이 할 일은 숫자를 의심하는 것이 아니라 숫자에 붙어야 할 네 가지가 붙었는지 확인하는 것이다. 연구진이 쓴 일곱 항목 중 넷을 실무 질문으로 바꾸면 이렇게 된다.

▲ 페블러스 원본 도식. 질문 네 개는 논문의 7개 항목 중 구체성·근거·수치 뒷받침·한계 공개를 실무용으로 옮긴 것이다.

네 질문의 쓸모는 답을 받는 데 있지 않다. 답이 안 오는 자리를 표시하는 데 있다. 세 번째 질문에 답이 없다면 그 수치는 비교 자료로 쓸 수 없고, 네 번째 질문에 답이 없다면 도입 후에 생길 실패의 책임 범위가 정해지지 않은 상태다. 둘 다 계약 전에 메워야 할 칸이다.

연구진이 논문 끝에 내놓은 제안도 같은 방향이다. 셋을 적었다. AI 능력을 광고하는 기업은 제품 페이지에 어떤 데이터를 수집하는지와 무엇을 신뢰성 있게 못 하는지를 짧은 구조화된 문장으로 공개할 것, 독립 기관이 기술 문서와 성능 자료를 비밀유지 아래 검사해 마케팅 주장을 인증할 것, 그리고 어디부터 들여다볼지 정하기 위해 이 7개 항목을 1차 선별 도구로 쓸 것. 첫 번째 제안에서 연구진은 새 양식을 만들자고 하지 않고, 이미 있는 데이터시트와 모델 카드의 항목을 그대로 가져다 쓰면 된다고 적었다.

두 번째 제안도 없던 제도를 새로 만들자는 말이 아니다. EU AI Act는 고위험 시스템에 대해 지정된 제3자가 적합성 평가를 하도록 이미 맡겨 두었고, 연구진은 그 평가의 대상을 시스템 자체에서 그 시스템을 두고 내놓은 마케팅 주장으로 넓히자고 적었다.

데이터 품질 쪽에서 오래 해 온 일이 이것과 같은 모양이다. 성능 수치 하나를 받으면 그 값이 어느 데이터셋의 어느 분할에서, 어떤 전처리를 거쳐, 어떤 라벨 기준으로 나왔는지를 되묻는다. 답이 돌아오지 않으면 그 수치는 아직 비교 가능한 값이 아니다. AI 워싱은 그 질문을 아무도 하지 않을 때 자라는 현상이고, 이번 연구는 그 공백이 독일 스타트업 100곳에서 몇 %였는지를 처음으로 적어 두었다.

여기까지 읽어 주셔서 감사하다. 논문의 수치와 인용은 arXiv 2610.11788에서, 국내 실태조사 내용은 공정거래위원회·한국소비자원 2025년 11월 7일 발표에서 확인했다. 여러분이 최근에 받아 본 벤더 성능 자료에는 네 칸 중 몇 칸이 채워져 있었는지 나눠 주시면 좋겠다.

학술

• 1.Pranav, A., Hartmann, L., & Lauscher, A. (2026). "Auditing AI-Washing in German Startups: A Mixed-Methods Study of Marketing Claims and Perceptions." arXiv:2610.11788. AIES 2026.

공식 문서

• 2.공정거래위원회·한국소비자원. (2025-11-07). "'AI워싱' 의심사례 시정 및 부당 표시·광고 가이드라인 마련 추진." 보도자료.

보도

• 3.뉴시스. (2025-11-07). ""AI 적용 안 됐는데"…공정위, AI 워싱 20건 시정 조치."
• 4.EBN. (2025-11-07). "AI워싱 의심사례 20건 적발."