AI 규제

AI를 어디에 어떻게 만들고 쓸 수 있는지 정하는 법과 정책으로, 권고 수준의 기술 표준이 아니라 지켜야 하는 법적 의무다. 채용·신용 평가·의료처럼 사람에게 큰 영향을 주는 곳에 AI를 쓰거나 생성형 AI 서비스를 내놓기 전에 먼저 확인해야 한다.

대표 사례인 EU AI Act는 AI를 위험도에 따라 4단계로 나누고, 단계가 높을수록 의무를 무겁게 지운다.

EU 밖 회사라도 적용된다

EU AI Act는 회사가 어디 있는지보다 서비스가 어디서 쓰이는지를 본다. 한국 회사라도 EU 사용자에게 AI 기능을 제공하면 적용 대상이 될 수 있다. 위반하면 전 세계 매출을 기준으로 과징금이 매겨질 수 있어 가볍게 넘길 일이 아니다.

내 서비스는 이 순서로 점검한다

외부 모델을 API로 가져다 써도 그걸로 만든 서비스의 책임은 내게 남는다. 출시 전에 아래 순서로 확인하면 된다.

생성형 AI라면 결과물에 워터마킹이나 AI 생성 표시를 붙이는 의무가 적용될 수 있다. 범용 AI 모델을 직접 만드는 회사는 기술 문서, 학습 데이터 요약, 저작권 정책 같은 별도 의무도 진다.

나라마다 방식이 다르다

법은 단계적으로 바뀐다

AI 규제는 시행 시점이 의무마다 다르고 세부 지침도 계속 나온다. 개인정보보호법이나 GDPR 같은 기존 법도 함께 적용되니, 고위험 용도에 해당할 것 같으면 최신 공식 지침을 확인하고 법률 검토를 받는 게 안전하다.

현장에서는 출시 전 점검 기준으로 쓴다

AI 서비스를 만드는 쪽에서는 규제를 주로 출시 전 점검 기준으로 쓴다. 내 서비스가 어떤 장면에 해당하는지 먼저 보고, 그에 맞는 의무를 설계 단계부터 넣어 둔다.