[ 자료사진]

김치연 기자 = 정부가 인공지능(AI) 산업의 건전한 발전을 지원할 근거와 기준을 명시하고 AI 산업의 신뢰 기반 조성에 관한 기본 사항을 규정한 법안이 26일 국회를 통과했다.

국회는 이날 본회의에서 이런 내용을 담은 AI 발전과 신뢰 기반 조성 등에 관한 기본법안을 의결했다.

제정안은 과학기술정보통신부가 3년마다 대통령 직속 '국가인공지능위원회'의 의결을 거쳐 AI 정책 방향과 전문인력 양성 등을 담은 '인공지능 기본계획'을 수립하도록 했다.

'정부는 AI 윤리 원칙의 실천 방안을 만들고 공개·홍보해야 한다'는 내용도 포함됐다.

국가와 지방자치단체가 인공지능 및 인공지능기술 연구·개발을 수행하는 기업, 기관이나 단체가 집적단지를 조성할 수 있도록 지원하는 규정도 담겼다.

법안은 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템을 '고영향 AI'로 규정하고, 관련 규제도 마련했다.

이 같은 고영향 AI나 생성형 AI를 이용한 제품 혹은 서비스를 제공하는 사업자는 워터마크 등을 이용해 AI를 사용했다는 사실을 이용자에게 명확히 알리도록 했다.

AI 사업자는 시스템의 안전성을 확보하기 위해 위험 식별·평가·완화 등의 사항을 이행하고, 고영향 AI를 이용한 서비스를 제공할 때 안전성과 신뢰성을 확보하기 위한 조치를 이행해야 한다.

만약 사업자가 법을 위반하면 과기정통부 장관은 사업자에게 자료를 제출하게 하거나 소속 공무원에게 필요한 조사를 하도록 할 수 있다. 위반 사실이 인정되면 중지, 시정을 위해 필요한 조치도 명할 수 있도록 했다.

제정안은 공포 후 1년 뒤부터 시행된다.