ADMIT ONENO. 2026 · 03
특별 기획전

기계는
무엇을 보았는가

사람을 고르는 일이 사람의 손을 떠났을 때,
무엇이 남고 무엇이 사라졌는지에 관한 세 개의 방.

제1~3전시실관람 소요 12분사회 · 수행평가
기계는 무엇을 보았는가
서문 · PROLOGUE

이력서를 넘긴 것은 사람이었고,
넘겨받은 것은 기계였다.

AI 채용은 “사람의 편견을 지운다”는 약속과 함께 도착했다. 그러나 기계가 배운 교과서는 결국 우리가 지난 수십 년간 써 온 채용 기록이었다. 기계는 편견을 지운 것이 아니라, 편견을 계산 가능한 규칙으로 바꾸어 놓았다.

아래로 내려 관람을 시작하십시오
제 1 전시실

기록의 방 — 실제로 일어난 일들

벽에 걸린 기사를 눌러 전문을 펼쳐 보십시오. 모든 전시물은 실제 보도·판결·연구에 근거하며, 하단에 원문 출처를 함께 전시합니다.

REUTERS · TECHNOLOGY2018.10.10
단독 · 인공지능 채용

아마존, 여성을 걸러내던 AI 채용 도구를 폐기하다

10년치 이력서로 학습한 실험용 채용 엔진이 ‘여성’이라는 단어가 포함된 이력서를 스스로 감점했다. 기술직 지원자 대부분이 남성이었던 과거의 기록이, 그대로 미래의 기준이 되어 있었다.

전문 열람
출처 · Reuters — www.reuters.com ↗
U.S. EEOC · 보도자료2023.08.09
합의 · 연령 차별

“55세 이상 여성은 자동 탈락” 소프트웨어, 36만 5천 달러 합의

미국 고용평등위원회가 제기한 첫 AI 채용 차별 소송이 합의로 종결됐다. 200명이 넘는 지원자가 나이만으로 사람의 검토조차 받지 못했다.

전문 열람
출처 · EEOC 보도자료 — www.eeoc.gov ↗
WIRED2021.01.12
화상면접

표정을 채점하던 면접 AI, 얼굴 분석을 중단하다

지원자의 표정·시선을 점수화하던 기능이 “설명할 수 없고 근거가 약하다”는 비판 끝에 폐기됐다.

전문 열람
출처 · WIRED — www.wired.com ↗
UNIVERSITY OF WASHINGTON2024.10.31
연구

같은 이력서, 이름만 바꾸자 순위가 갈렸다

550여 건의 이력서를 이름만 바꿔 대규모 언어모델에 넣은 실험. 결과는 특정 집단으로 크게 기울었다.

전문 열람
출처 · UW News — www.washington.edu ↗
REUTERS · LEGAL2025.05
소송

지원 100번, 탈락 100번 — 심사 알고리즘이 법정에 서다

채용 심사 소프트웨어 제공사를 상대로 한 연령차별 집단소송이 전국 규모로 진행될 수 있게 됐다.

전문 열람
출처 · Reuters — www.reuters.com ↗

전시 보조 자료 · 무엇이 반복되는가

  • ① 과거가 기준이 된다과거 합격자 분포가 곧 ‘좋은 지원자’의 정의로 굳어진다.아마존 · 2018
  • ② 사람이 개입할 틈이 없다자동 탈락은 기록도 설명도 남기지 않는다.iTutorGroup · 2023
  • ③ 근거가 없다표정·목소리처럼 직무와의 연결이 입증되지 않은 신호가 점수가 된다.HireVue · 2021
  • ④ 이름 한 줄로 갈린다능력과 무관한 식별 정보가 결과를 흔든다.워싱턴대 · 2024
제 2 전시실

기계의 방 — 편향은 어디서 태어나는가

두 가지 장치를 전시합니다. 하나는 기계가 삼킨 과거이고, 다른 하나는 기계가 잘못 그은 인과의 화살표입니다. 직접 조작해 보십시오.

전시물 2 — 1

삼켜진 과거 : 학습 데이터가 편향되어 있을 때

AI는 “좋은 인재”가 무엇인지 스스로 알지 못합니다. 오직 과거에 실제로 합격한 사람들을 보고 그 특징을 흉내 낼 뿐입니다. 과거 합격자가 한쪽으로 기울어 있었다면, 기계는 그 기울기를 더 가파르게 재현합니다.

학습 데이터 · 과거 10년 합격자 중 남성 비율
85%
손잡이를 움직여 과거 채용 기록을 바꿔 보십시오. 오른쪽에서 AI의 추천 결과가 어떻게 달라지는지 관찰할 수 있습니다.
투입 · 기계가 학습한 과거
남성85%
여성15%
산출 · AI가 추천한 상위 100명
남성95%
여성5%
편향 증폭 × 1.0 기계는 과거의 기울기를 그대로 물려받지 않습니다. 다수 패턴을 ‘정답’으로 굳히면서 더 강하게 기울입니다.
“여성 체스 동아리 회장”
▼ 감점 — 과거 합격자에게 드문 표현
“여자대학교 졸업”
▼ 감점 — 학교명이 성별의 대리 신호가 됨
“실행했다 · 장악했다”
▲ 가점 — 과거 남성 이력서에 잦던 동사
경력 단절 2년
▼ 감점 — 사유(육아·간병)는 보지 않음
전시 라벨 좌측 시뮬레이션은 편향 증폭(bias amplification) 현상을 설명하기 위한 모형이며 특정 기업의 실측치가 아닙니다.
우측 문구 사례는 로이터(2018)가 보도한 아마존 채용 엔진의 실제 감점 사례에 기반합니다.
전시물 2 — 2

잘못 그은 화살표 : 상관을 인과로 착각할 때

AI는 “무엇이 성과를 만드는가”를 모릅니다. 오직 “무엇이 합격과 함께 나타나는가”만 셉니다. 그래서 실력의 결과일 뿐인 신호, 심지어 실력과 아무 상관 없는 신호까지 합격의 원인으로 취급합니다.

노드를 눌러 자세히 보기
이름 · 성별 거주지 출신 학교 직무 역량 · 기술 과거 인사담당자의주관적 선호 · 편견 실제 업무 성과 과거 합격 기록( 학습용 정답지 ) 편견의 몫 실력의 몫 합격 기록은 실력과 편견이 뒤섞인 결과물이다 AI 합격 예측 점수( 상관만으로 학습 ) 상관 .58 상관 .51 상관 .63 상관 .31 기계는 인과를 모른 채, 가장 잘 맞아떨어지는 신호부터 붙잡는다
해설

두 개의 세계를 비교해 보십시오

위 버튼으로 시점을 바꾸고, 왼쪽 변수 상자를 누르면 각 변수가 왜 위험한지 볼 수 있습니다.

전시 라벨 도식의 상관계수는 설명을 위한 예시값입니다. 핵심은 수치가 아니라 화살표의 방향입니다 — 실제 세계에서는 편견이 ‘합격 기록’을 만들고, AI는 그 기록을 정답으로 삼아 편견을 되풀이합니다.
제 3 전시실

처방의 방 — 무엇을 바꿀 수 있는가

편향은 기계의 고장이 아니라 설계의 문제입니다. 설계를 바꾸는 두 가지 장치를 전시합니다. 첫째, 보지 않아야 할 것을 가린다. 둘째, 판단한 이유를 반드시 남긴다. 셋째, 지원서를 한 번에 놓고 비교한다.

전시물 3 — 1

가림막 : 인적사항 마스킹 실험대

오른쪽 버튼을 눌러 이력서의 항목을 하나씩 가려 보십시오. 무엇을 가릴 때 편향 위험이 실제로 떨어지는지, 그리고 가려도 남는 것이 무엇인지 확인할 수 있습니다.

지원서 #A-2291블라인드 심사 대상
성명
김○○
성별
여성
생년
1994년생 (32세)
사진
증명사진 첨부됨
주소
경기 ○○시 ○○동
학력
○○대학교 컴퓨터공학
경력
백엔드 개발 4년 2개월
프로젝트
결제 서버 이중화 설계, 장애율 1.9% → 0.3%
기술
Java · Kotlin · Kubernetes · PostgreSQL
자격
정보처리기사, AWS SAA

가림막 조작반

편향 위험도100
판단 근거 중 직무 정보의 비중48%
아직 기계는 사람을 보고 있습니다. 성별·나이·사진처럼 직무 수행과 무관한 정보가 그대로 모델에 들어가면, 그 정보는 반드시 점수에 반영됩니다.
전시 라벨 마스킹은 만능이 아닙니다. 이름을 가려도 동아리명·군복무 여부·경력 공백이 성별을 알려주고, 주소를 가려도 고등학교명이 지역을 알려줍니다. 그래서 마스킹은 ‘대리 신호(proxy) 점검’과 반드시 함께 가야 합니다.
전시물 3 — 2

이유를 남기는 심사 : 판단 근거의 의무 표시

같은 지원자에 대한 두 장의 심사표입니다. 왼쪽은 오늘날 대부분의 방식, 오른쪽은 모든 판단에 근거를 붙인 방식입니다. 오른쪽 카드의 버튼을 눌러 근거를 펼쳐 보십시오.

현재 · 설명하지 않는 심사

지원서 #A-2291

판정 불합격 · 적합도 41점
근거 정보 없음
( BLACK BOX )
  • 불가
    지원자는 왜 떨어졌는지 알 수 없다이의를 제기할 근거 자체가 존재하지 않음
  • 불가
    회사도 차별 여부를 검증할 수 없다기록이 없으므로 사후 감사도 불가능
대안 · 근거를 남기는 심사

지원서 #A-2291

판정 2차 전형 진행 · 적합도 78점
근거는 지원자에게 공개될 수 있습니다
전시물 3 — 3

한 번에 놓고 비교하기 : 일괄 심사로 기준을 고정한다

지원서를 한 명씩 따로 넣으면, 모델은 매번 기준선을 새로 세웁니다. 그 빈틈을 이름·나이·학교 같은 신호가 채웁니다. 같은 지원서들을 하나의 요청에 모두 넣고 서로 비교하게 하면, 모든 지원자에게 동일한 잣대가 강제됩니다. 아래 버튼으로 두 방식을 비교해 보십시오.

동일한 지원서 4건 · 동일한 채용 공고

    심사 계측

    심사 기준선의 흔들림±14점
    직무 근거와 최종 순위의 일치도35%
    전시 라벨 · 주의 일괄 비교에도 약점이 있습니다. 앞쪽에 놓인 지원서가 유리해지는 순서 편향(position bias)이 남고, 한 번에 넣을 수 있는 인원에도 한계가 있습니다. 그래서 실제 운용에서는 ① 지원서 순서를 무작위로 섞어 여러 번 돌리고 ② 결과를 평균 내며 ③ 가림막·근거 기록과 반드시 함께 씁니다. 이 전시의 점수는 방식의 차이를 보여 주기 위한 예시값입니다.
    원칙 01
    가린다

    성명·성별·나이·사진·주소·학교 등 직무와 무관한 식별 정보를 모델 입력 단계에서 제거하고, 이를 추측하게 하는 대리 신호까지 함께 점검한다.

    원칙 02
    이유를 남긴다

    모든 판정에 채용 공고의 어떤 요건을 근거로 삼았는지 항목별로 기록하고, 지원자가 요청하면 열람·이의제기할 수 있게 한다.

    원칙 03
    정기적으로 검사한다

    합격률을 성별·연령·지역별로 나눠 정기 감사하고, 편차가 기준을 넘으면 모델 사용을 중단한다.

    원칙 04
    한 번에 비교한다

    지원서를 한 명씩 따로 평가하지 않고 하나의 요청에 함께 넣어 동일한 기준으로 비교한다. 순서를 섞어 여러 번 돌린 뒤 평균을 낸다.

    원칙 05
    최종 결정은 사람이 한다

    AI는 순위를 제안할 뿐, 탈락을 자동으로 확정하지 않는다. 사람의 검토 없는 자동 탈락을 금지한다.

    나가는 길 · EPILOGUE

    기계는 미래를 예측하지 않는다. 과거를 반복할 뿐이다.

    ① AI 채용 편향은 기계의 오작동이 아니라, 기울어진 과거를 그대로 배운 결과다.

    ② 기계는 인과를 모른다. 실력이 아니라 실력과 함께 나타났던 표식을 고른다.

    ③ 그러므로 답은 기술이 아니라 설계다 — 가리고, 한 번에 비교하고, 이유를 남기고, 사람이 확인한다.

    출처 및 참고자료

    1. Jeffrey Dastin, “Amazon scraps secret AI recruiting tool that showed bias against women”, Reuters, 2018.10.10 — reuters.com
    2. U.S. EEOC, “iTutorGroup to Pay $365,000 to Settle EEOC Discriminatory Hiring Suit”, 2023.08.09 — eeoc.gov
    3. Will Knight, “Job Screening Service Halts Facial Analysis of Applicants”, WIRED, 2021.01.12 — wired.com
    4. EPIC, “In re HireVue” FTC 진정, 2019.11.06 — epic.org
    5. Stefan Milne, “AI tools show biases in ranking job applicants’ names according to perceived race and gender”, UW News, 2024.10.31 (Wilson & Caliskan, AIES 2024) — washington.edu
    6. Mobley v. Workday, Inc., N.D. Cal. — AI 채용 심사 관련 연령차별 집단소송 진행 경과 보도, Reuters — reuters.com
    7. EEOC, “Assessing Adverse Impact in Software, Algorithms, and AI Used in Employment Selection Procedures Under Title VII”, 2023.05.18 — eeoc.gov
    8. EU 인공지능법(Regulation (EU) 2024/1689) — 채용·인사 목적 AI를 고위험(High-risk)으로 분류, 부속서 III — eur-lex.europa.eu
    9. NYC Local Law 144 (2021) — 자동화 고용 결정 도구의 편향 감사 의무화, 2023.07 시행 — nyc.gov