학습 데이터 권리

제품에 AI 기능이 없던 시절에는 고객 자료가 우리 서버 안에서 끝났습니다. 어디에 저장하고 누가 볼 수 있는지만 정해 두면 됐습니다.

외부 모델을 붙이는 순간 그 경계가 사라집니다. 페이지덱이 회의록 요약 기능을 낸 다음 달, 수아가 기업 고객 법무팀에서 받은 질문이 그것을 드러냈습니다. 우리 회사 문서가 그 모델의 학습에 쓰이는지 답해 달라는 요청이었습니다. 규원도 태오도 답하지 못했습니다. 확인해 보니 쓰고 있던 등급의 약관에 입력값을 모델 개선에 쓸 수 있다는 조항이 있었습니다. 요약 기능을 켠 고객의 회의록이 넉 달째 그 경로로 나가고 있었고, 계약서에는 그 사실이 없었습니다.

학습 데이터 권리는 그 경로에 붙은 권리 관계를 따지는 문제입니다. 자료가 회사 밖으로 나가는 순간 저작권과 계약과 개인정보가 한꺼번에 걸리는데, 기능을 만드는 쪽에서는 그것이 화면에 보이지 않습니다.

방향이 둘이라는 점을 먼저 갈라 놓습니다. 나가는 쪽과 들어오는 쪽이고, 걸리는 권리가 다릅니다.

나가는 쪽은 우리 고객의 자료가 외부 모델의 학습에 쓰이는 경우입니다. 깨지는 것은 고객과의 약속입니다. 고객은 문서를 우리에게 맡겼고 제3의 회사에 넘기는 것까지 허락하지 않았습니다. 확인할 것은 셋입니다.

1. 모델 제공사의 등급별 조건입니다. 같은 회사의 같은 모델도 등급에 따라 학습 이용 여부가 다르고, 기본값이 학습 허용인 경우가 있습니다.
2. 보관 기간과 지역입니다. 학습에 쓰지 않아도 남용 감시 목적으로 며칠에서 몇 달을 보관하는 경우가 많고, 그 서버가 어느 나라에 있는지가 별도 문제를 만듭니다.
3. 우리 계약서 문구입니다. 위탁 처리의 범위와 책임을 정하는 처리 위탁 계약에 재위탁 대상으로 그 모델 회사를 적고, 학습 이용 금지를 명시합니다.

들어오는 쪽은 그 모델이 학습한 남의 자료가 우리 출력에 섞여 나오는 경우입니다. 걸리는 것은 남의 저작권입니다. 회의록 요약은 입력이 고객 문서라 이 위험이 낮습니다. 빈 화면에서 문장이나 그림이나 코드를 만드는 기능은 출력의 재료가 모델이 학습한 자료라서, 원본과 비슷한 결과가 나올 여지가 있습니다.

권리도 한 겹이 아닙니다. 자료를 만든 사람의 저작권, 그 자료가 올라와 있던 서비스의 이용 약관, 사람에 관한 정보가 섞였을 때 적용되는 개인정보 규정이 따로 걸립니다.

실무에서 하는 일은 순서가 같습니다. 데이터가 어디로 흘러가는지 한 장에 그리고, 지나가는 회사마다 등급과 설정을 확인하고, 계약 문구를 맞추고, 알릴 내용을 약관과 개인정보 처리방침에 반영하고, 입력과 출력의 기록을 남깁니다. 마지막 항목은 문제가 생겼을 때 무엇이 오갔는지 확인할 유일한 근거입니다.

가장 자주 쓰이는 자리는 기업 고객의 도입 검토입니다. AI 기능이 붙은 제품에는 학습 이용 여부를 묻는 항목이 반드시 들어옵니다. 답이 막히면 계약이 멈추고, 그 답은 기능을 만들 때 정해 뒀어야 나옵니다.

모델 제공사와 계약할 때도 검토 대상입니다. 값과 속도만 비교해 고르면 나중에 약관이 걸립니다. 학습 이용을 하지 않겠다고 계약서에 적어 주는 회사와 약관으로만 안내하는 회사는 기업 고객 앞에서 무게가 다릅니다.

새 AI 기능을 내보내기 전 검토에서도 한 칸을 차지합니다. AI 를 쓰는 방식마다 위험 수준을 매겨 다른 의무를 지우는 AI 규제법류의 법제가 어떤 자료로 만들었는지를 기록 항목으로 요구하는데, 이 검토를 건너뛰면 나중에 소급해서 적을 수 없습니다.

사내 규정에도 내려옵니다. 직원이 외부 챗봇에 회사 자료를 붙여넣는 일은 제품과 무관하게 같은 문제를 만들어서, 어느 도구를 어느 등급으로 쓸 수 있는지와 어떤 자료는 넣지 않는지를 목록으로 정해 둡니다.

같은 갈래의 AI 편향은 같은 자료를 다른 각도에서 봅니다. 편향은 자료가 치우쳐 결과가 특정 집단에 불리해지는 문제이고, 권리는 그 자료를 쓸 자격의 문제입니다. 자격을 갖춰 모은 자료도 치우칠 수 있습니다.

"우리 문서가 모델 학습에 쓰이는지 서면으로 답해 주세요."

기업 고객 법무팀이 도입 전에 반드시 묻는 항목입니다.

"기본 등급은 학습에 쓰인다고 돼 있어요. 상위 등급으로 옮기고 계약서에 명시받읍시다."

같은 모델도 등급에 따라 조건이 다르다는 판단입니다.

"이 기능은 출력이 우리 고객 문서에서만 나오니까 저작권 쪽은 위험이 낮습니다."

들어오는 쪽 위험을 기능별로 갈라 본 말입니다.

페이지덱에서는 규원이 그 질문을 받은 주에 셋을 바꿨습니다. 모델 등급을 학습 이용이 없는 쪽으로 옮기고, 처리 위탁 계약에 그 회사를 재위탁 대상으로 적고, 요약 기능 화면에 어느 회사 모델을 쓰는지 밝혔습니다.

되돌릴 수 없는 것이 하나 있었습니다. 넉 달 동안 이미 나간 자료입니다. 규원은 그 사실을 해당 고객 열네 곳에 먼저 알렸습니다. 알리지 않는 쪽이 조용하지만, 다음 계약이나 감사에서 드러나면 사고 자체보다 숨긴 기간이 문제가 됩니다. 열네 곳 중 계약을 끊은 곳은 없었습니다.

유료 요금제면 괜찮다고 읽는 경우가 가장 많습니다. 돈을 내면 다른 대우를 받는다는 인상 때문입니다. 하지만 조건은 요금제로 정해지지 않습니다. 같은 회사에서도 등급마다 다르고, 같은 등급에서도 계정 설정 하나로 갈리며, 자기 자료로 모델을 손보는 기능은 별도 조건이 붙습니다. 확인할 것은 요금이 아니라 우리가 쓰는 그 경로의 문서입니다. 등급을 올렸다는 사실만으로 고객에게 답한 회사가 반년 뒤 설정 하나가 기본값이었음을 발견하는 일이 생깁니다.

공개된 자료는 마음대로 써도 된다고 보는 것도 흔합니다. 누구나 볼 수 있으니 쓰는 것도 자유처럼 보입니다. 그런데 공개는 볼 수 있다는 뜻이고 권리를 포기했다는 뜻이 아닙니다. 웹에 올라온 글과 그림에는 대개 저작권이 그대로 붙어 있고, 그 서비스의 이용 약관이 기계 수집을 따로 금지하는 경우가 많습니다. 하나만 걸려도 문제가 되고, 사람에 관한 정보가 섞이면 개인정보 규정이 한 겹 더 붙습니다.