💊최앤리 법알약
AI 스타트업이 필독해야 할 AI 기본법 1편
|
|
|
님, 안녕하세요. 법알약의 최철민 대표 변호사입니다.
최근 AI 사업자가 빠르게 늘어나고 있는데요, 내년부터 시행될 AI 기본법에 대해 미리 알아두는 것이 좋겠죠. 오늘은 AI 사업자는 물론 요즘 시대에 알아두면 좋을 AI 기본법에 대해 법알약을 처방해 드리겠습니다.
챗 GPT가 처음 나왔을 때만 해도 잠깐의 유행처럼 보였습니다. 하지만 불과 몇 년 사이에 문서·이미지·음성·영상 전 영역에서 AI가 일상이 되었습니다. 법률문서도 예외가 아닙니다. 효율은 높아졌지만, 보이스피싱 악용 위험, 잘못된 판례 인용 등 부작용도 분명합니다.
이 급변에 대응해 미국·EU·일본 등은 AI 규범을 정비하고 있습니다. 우리나라도 2024년 12월 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」(이하 ‘AI 기본법’)을 제정했고, 2026년 1월 시행을 앞두고 있습니다. 과학기술정보통신부는 하위 법령 제정 방향과 초안을 공개해 의견을 수렴 중입니다.
AI를 기반으로 한 서비스가 빠르게 늘어나는 지금, AI 스타트업과 우리의 고객사에게 AI 기본법 이해는 선택이 아니라 필수입니다. 이번 칼럼에서는 AI 기본법의 구조와 핵심 조항을, 이어지는 2편에서는 최근 공개된 하위 법령의 제정 방향과 주요 내용을 실무 관점에서 정리하겠습니다. |
|
|
1. AI 기본법의 목적 및 AI 최적화 거버넌스 구축 방향
|
|
|
AI 기본법 제1조는 “이 법은 인공지능의 건전한 발전과 신뢰 기반 조성에 필요한 기본적인 사항을 규정함으로써 국민의 권익과 존엄성을 보호하고 국민의 삶의 질 향상과 국가경쟁력을 강화하는 데 이바지함을 목적으로 한다.”라고 규정하여, 그 정식 명칭에서도 알 수 있듯이 AI 산업에 대한 규제보다는 그 발전과 안전 및 신뢰 기반 구축에 보다 초점을 두고 있습니다.
이에 따라 AI 기술 또는 산업의 발전을 국가가 뒷받침하기 위한 AI정책 거버넌스 및 산업 육성 지원에 관한 부분이 AI 기본법의 상당 부분을 차지하고, 나머지는 AI에 대해 안전하고 신뢰할 수 있는 기반 조성을 위한 사업자의 의무나 책임에 관한 내용입니다. 아무래도 AI 스타트업을 영위하고 있는 사업자 입장에서는 마지막 부분이 중요할 것입니다. |
|
|
2. 국가 정책에 큰 방향을 제시하는 AI 기본법의 주요 내용
|
|
|
AI 기본법은 AI 기술 및 관련 산업의 발전에 관한 국가 AI 정책 거버넌스의 확립에 대한 내용을 규정하고 있습니다. AI 기본법에서는 대통령 소속의 국가인공지원회를 설치하고 해당 위원회의 업무를 전문 분야별, 특정 현안별로 수행하기 위해 분과위원회, 특별위원회를 둘 수 있도록 하고 있습니다(제7조부터 제10조). 뿐만 아니라 인공지능정책센터, 인공지능안전연구소를 지정하거나 운영할 수 있도록 하여(제11조 및 제12조), AI 정책 수립, 연구개발 등에 대한 업무 및 지원을 위한 근거까지 마련하였습니다.
이와 같은 근거법을 토대로 AI 산업의 발전을 위해 AI 개발, 도입, 활용 전 영역에서 정부가 다양한 지원을 할 수 있도록, 인공지능기술 개발 및 안전한 이용을 위한 지원(제13조), 인공지능기술의 표준화를 위한 사업 추진(제14조), 인공지능기술 도입 및 활용을 위한 지원(제16조), 중소기업 및 창업 지원(제17조 및 제18조), 인공지능 데이터센터 관련 시책 추진(제25조) 등 각종 정부 지원의 근거가 마련되었습니다. 이로 인해 향후에 국가 예산을 편성할 때 AI 발전을 위한 지원이 적극적이고 구체적으로 이루어질 것으로 예상됩니다. |
|
|
AI 스타트업이 구체적으로 주목해야 할 부분은 사업자의 의무나 책임에 관한 부분입니다. AI 기본법은 AI에 대해 안전하고 신뢰할 수 있는 기반 조성도 법 제정 목적으로 두고 있습니다. 구체적으로 AI 기본법은 ‘고영향 인공지능’ 및 ‘생성형 인공지능’ 사업자의 인공지능 이용 여부에 대한 투명성 확보 의무(제31조), 및 안전성 확보 의무(제32조)를 부과하고 있습니다. 특히 ‘고영향 인공지능사업자’에 대해서는 제공하는 인공지능이 고영향 인공지능에 해당하는지 여부에 대한 사전 검토 의무(제33조), 위험 관리 방안 수립 및 운영, 이용자 보호 방안의 수립 및 운영, 고영향 인공지능에 대한 사람의 관리 및 감독 등의 책임을 부과하고 있습니다. 현실에서는 해외에 본점이나 지점을 두고 있는 경우가 많은데요, 이 경우 국내에 주소 또는 영업소가 없는 인공지능 사업자 중 일정한 기준에 해당하는 자의 경우 국내 대리인을 지정할 의무까지 규정하고 있습니다(제36조).
이제 중요한 페널티 부분입니다. 위와 같이 사업자에게 부과된 의무를 위반하는 경우 과학기술정보통신부 장관에게 사실조사 및 중지, 시정명령 권한을 부여하고(제40조), 이를 불이행한 인공지능 사업자에 대하여는 3,000만 원 이하의 과태료가 부과될 수 있습니다(제43조). |
|
|
4. AI 사업자는 AI를 사용한다고 고지 및 표시를 해야_인공지능 투명성 확보의무
|
|
|
위 조항 중 AI 스타트업 등 AI 사업자가 AI 기본법에서 특히 주목하여야 하는 부분은 제31조부터 제34조까지의 인공지능 사업자에 대한 의무에 관한 내용으로서, 위에서 본 바와 같이, 크게 인공지능 투명성 확보의무(제31조), 인공지능 안전성 확보 의무(제32조), 고영향 인공지능사업자 의무(제33조 및 제34조) 3가지로 구분됩니다.
먼저 인공지능 투명성 확보 의무(제31조)는, 소비자에게 제공되는 제품 또는 서비스가 인공지능에 의해 운용되거나 혹은 어떠한 결과물이 인공지능에 의하여 생성되거나 실제와 구분하기 어려울 경우, 그러한 사실을 고지 또는 표시하여야 한다는 내용입니다.
구체적으로는, AI 사업자가 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우, 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 ‘사전 고지’하여야 하고(제1항), 생성형 인공지능 또는 이를 이용한 제품 또는 서비스를 제공하는 경우 그 결과물이 해당 인공지능에 의하여 생성되었다는 사실을 ‘표시’하여야 하며(제2항), 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우에는 해당 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 ‘이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시’하여야 합니다(제3항).
|
|
|
다음으로 인공지능 안전성 확보 의무(제32조)는, 학습에 사용된 누적 연산량이 일정한 기준 이상의 인공지능시스템의 경우 그 기능 오류, 데이터 편향, 악용 등의 위험 발생을 우려하여, 안전성 확보를 위한 인공지능 수명주기 전반에 걸친 위험의 식별, 평가 및 완화, 인공지능 관련 안전사고를 모니터링하고 위험관리체계 구축에 관한 사항의 이행을 요구하고 있습니다. |
|
|
6. 고영향 인공지능의 경우 강화된 의무와 책임 준수해야
|
|
|
마지막으로 고영향 인공지능의 경우, 그 정의에 의하여 실제 국민의 생명, 신체, 기본권에 중대한 영향을 미치거나 초래할 우려가 있는 것인 만큼, AI 사업자로 하여금 이용하는 인공지능이 고영향 인공지능에 해당하는지에 대하여 사전에 검토하도록 하고 있습니다(제33조).
이러한 사전 검토에 따라 만일 고영향 인공지능에 해당하는 경우에는 해당 인공지능의 안전성, 신뢰성을 확보하기 위해 1) 위험관리 방안의 수립 및 운영, 2) 기술적으로 가능한 범위 내에서의 인공지능이 도출한 최종 결과, 인공지능의 최종 결과 도출에 활용된 주요 기준, 인공지능의 개발 및 활용에 사용된 학습용 데이터의 개요 등에 대한 설명 방안의 수립 및 시행, 3) 이용자 보호 방안의 수립 및 운영, 4) 고영향 인공지능에 대한 사람의 관리 및 감독, 5) 안전성 및 신뢰성 확보를 위한 조치의 내용을 확인할 수 있는 문서의 작성과 보관, 6) 그 밖에 고영향 인공지능의 안전성 및 신뢰성 확보를 위하여 위원회에서 심의, 의결된 사항 등에 관한 조치를 이행하여야 합니다(제34조). |
|
|
고민 많은 대표님들, 저희가 같이 고민하겠습니다 ━ 오늘 마감!
|
|
|
최앤리에서 사업가를 위한 무료 커피챗, "월간 최앤리"를 시작합니다. 월간 최앤리는 법률가의 시선으로 사업을 ‘엑셀러레이팅’ 해드리는 일대일 자문 시간입니다.
- 무겁고 딱딱한 시간이 아닙니다. 기업 전문 로펌의 대표 & 부대표 변호사와 커피 한 잔하며 편안하게 사업 고민을 나눠보시죠.
- 가볍고 형식적인 대화가 아닙니다. 유료 자문만큼 의미있는 대화를 나눕니다. 사업에 바로 적용할 수 있는 팁과 노하우를 아낌없이 공개합니다.
- 이번 달 주제는 최앤리의 대표 자문 영역이기도 한 "계약 및 투자" 입니다. 지금 투자를 받았거나, 받지 않았더라도 투자 분쟁, 투자 계약과 같은 주제에 관심이 많은 대표님이라면 아주 유익한 시간이 될 것입니다.
이번 달 커피챗 신청은 오늘 마감합니다. 관심있는 분들은 누구나 지금 바로 신청해 주세요! |
|
|
[스타트업 법처방전] 비트코인을 압류·추심할 수 있을까?
민사소송에서 우여곡절 끝에 승소하더라도 상대방에게 부동산, 예금, 주식 등 재산이 거의 없다면 그간 재판 과정이 헛수고가 될 수 있다. 이때 마지막으로 고려해야 할 재산이 비트코인을 비롯한 가상화폐이다. 금융위원회 통계에 따르면 코인 이용자가 1000만 명에 육박했다. 심지어 1000만 원 이상 코인을 보유한 비율도 전체의 12%나 해당한다. 이제는 강제집행의 대상에서 코인을 부동산, 예금, 주식과 더불어 강제집행 대상에 반드시 포함해야 할 시대가 온 것이다. 본 칼럼을 통해 전통적 재산과 다른 가상화폐에 대해 어떻게 보전처분(가압류)이나 강제집행(압류 및 추심)을 해야 실효성이 있을지 실무적인 궁금증을 해소해드리겠다.
|
“M&A…최소 2년 전부터 준비를 해야 합니다”
불확실성이 큰 경영환경에서 스타트업에 법률적 안전망을 제공하기 위해 등장한 로펌이 있다. 바로 최앤리 법률사무소다. 최철민 변호사와 이동명 변호사가 이끌고 있는 이곳은 창립 초기부터 “스타트업 전문 로펌”을 표방하며 시장의 눈길을 끌었다. 이동명 최앤리 법률사무소 부대표변호사는 중기이코노미와 만난 자리에서 “저희는 스타트업과 중소기업이 당장 겪는 법률 문제에 초점을 맞춘 ‘실무형 해법’을 제공하는 것을 원칙으로 삼고 있다”고 소개했다. |
|
|
셀럽과 팬을 잇는 ‘기부형 중고거래 플랫폼’ 기비티(Givity) 출시
셀럽과 팬을 직접 연결하는 새로운 형태의 중고거래 플랫폼 ‘기비티(Givity)’가 출시됐다. 기비티는 셀럽이 사용하지 않는 소장품을 판매하고, 팬들은 이를 구매하는 동시에 기부에 참여할 수 있도록 설계된 모바일 기반 중고거래 플랫폼이다. 기비티는 셀럽과 팬을 연결하는 C2F(Celebrity to Fan) 중고거래 플랫폼으로, 거래를 통해 발생한 수익금을 기부하는 구조를 갖췄다. 기비티 관계자는 “단순한 중고거래를 넘어, 기부를 통한 새로운 소비문화를 조성하는 것이 목표”라고 설명했다. |
AI 시대 기업 인력 전략 변화…이지태스크, ‘EasyTask Hub’로 유연 인력 운영 지원
기업들이 인공지능(AI) 도입 확산과 함께 인력 구조를 재편하고 있다. 정규직 중심의 고정 인건비 부담을 줄이고, 프로젝트 성격과 필요에 맞춘 유연한 인력 투입 수요가 증가하는 가운데, 프리랜서 매칭 플랫폼 이지태스크(EasyTask)가
‘EasyTask Hub’를 공개하며 관련 서비스를 강화했다. 이지태스크는 2021년 설립 이후 프리랜서 시장의 일자리 미스매칭 문제를 해결하는 것을 목표로 운영돼왔다. 현재까지 약 400만 건의 업무 데이터를 기반으로 평균 14분 내 기업과 프리랜서를 연결하며, 1,700여 개 기업과 7만 명 이상 회원을 확보하고 있다.
|
|
|
|
