무상의료 운동본부

[22대 총선 즈음하여 인공지능 위험 규제 정책에 대한 시민사회 공동논평]

 

22대 국회는 인공지능이 국민 안전과 인권에 미치는 위험을 방지할 제대로 된 규제법을 마련해야 한다

- 21대 국회에서 정부와 국회가 추진해온 규제완화 인공지능법은 국민의 안전과 인권에 미치는 위험 매우 커

 

인공지능의 위험성에 대응하는 세계의 규제 행보가 갈수록 뚜렷해지고 그 내용도 구체적이다. 특히 328(현지시각) 미국 백악관 예산관리국(OMB)은 업무에 인공지능을 활용하는 정부 기관들에 대하여 인공지능 위험 방지장치를 의무화하여 세계적인 주목을 받았다. 반면 우리나라 21대 국회와 정부는 오히려 토종AI 기업을 위해 규제를 완화하는 내용의 인공지능법을 추진해 왔다. 22대 국회는 반드시 인공지능이 국민의 안전과 인권에 미치는 위험을 방지하고, 나아가 용납할 수 없는 인공지능을 금지하는 법률을 마련해야 할 것이다.

 

미국의 OMB 규칙은 지난해 1031일 바이든 대통령이 발표한 AI 행정명령의 후속 정책으로, 앞으로 민간에서 조달되는 연방AI에 적용될 예정이다. OMB 규칙은 인간의 생명과 안녕, 환경, 인프라 등 안전에 위험을 미치는 AI(Safety-Impacting AI)와 교육, 주택, 보험, 신용, 고용 등 인권에 위험을 미치는 AI(Rights-Impacting AI)에 대하여 각각 최소 위험관리 관행(minimum risk management practices)을 의무화하였다. 이 최소 관행은 AI 영향평가를 의무화한 것은 물론이고, 테스트와 모니터링 의무를 강하게 부여하였으며, 공무원의 인적 감독과 책무성에 더해 투명성 보장까지 요구하였다. 특히 차별 등 인권에 미치는 인공지능의 영향을 사전에 식별하고 평가하여 완화조치까지 마치도록 하였으며 영향을 받는 당사자 집단의 의견을 수렴하고 피해를 구제하도록 명시하였다는 점에서 유럽연합의 위험기반 접근과 유사한 내용을 담고 있다.

 

한국의 공공기관 인공지능의 경우 위험방지는 커녕, "GPT를 활용하라"는 대통령 지시이후로 이렇다 할 문제 진단이나 사회적 숙의 없이 앞만 보고 달려가느라 매우 위태한 형국이다. 대통령이 미국의 특정 회사 생성형 AI 제품을 명시하여 활용을 지시한 정책의 적절성 여부는 차치하고, 활용에 부합하는 공공기관의 책임성을 어떻게 보장할 것인지, 공공AI의 영향을 받게 될 국민의 안전이나 차별 등 인권에 미치는 피해를 어떻게 방지할 것인지 등을 고려하는 정책은 발표된 바가 없다. 더구나 챗GPT는 데이터의 무단 학습으로 세계 각국 규제기관에서 여러 조사와 시정조치를 요구받아 왔으며, 우리나라 개인정보보호위원회 조사에서도 GPT가 학습한 데이터에 주민등록번호와 여권번호 등민감한 개인정보가 포함되었을 수 있다는 사실이 드러나기도 하였다.

 

인공지능 위험 규제를 위한 세계의 노력은 미국의 공공 부문에서만 일어나는 일이 아니다. 유럽은 316일 의회에서 인공지능법을 최종 승인했다. 유럽연합 인공지능법은 세계 최초의 포괄적 인공지능법으로, 우선 공공장소 실시간 얼굴인식과 예측 치안 등 용납할 수 없는 인공지능을 금지하였다. 나아가 기계로봇AI, 장난감AI, 의료기기AI 등 안전에 미치는 고위험과 채용AI, 학교AI, 경찰AI 등 인권에 미치는 고위험을 규제하기 위하여, 적정성 평가, 인증, 인권영향평가 등을 의무화하였다. 지난해 12월 유럽 집행위원회, 이사회, 의회가 합의하면서 2021년 초안에 없었던 범용AI에 대한 규제 조항과 영향을 받는 사람들의 피해에 대한 구제 조항을 추가하여 주목을 받았다.

 

321일에는 유엔총회에서인공지능의 안전한 사용에 관한 국제적인 합의를 결의하였다. 이 결의안은 유엔 회원국이 신뢰할 수 있는 인공지능 시스템에 관한 세계적 합의의 중요성과 시급성을 만장일치로 확인하였다는 점에서 시사적이다.

 

인공지능 규제 정책 마련에 분주한 국제 흐름에 비하여 우리의 상황은 어떠한가? 지난해부터 과학기술정보통신부와 여야 국회가 추진해온 인공지능법은 인공지능 위험 규제를 오히려 완화하는 "우선 허용, 사후 규제" 규정으로 시민사회의 질타를 받아왔다. 용납할 수 없는 인공지능의 위험을 전혀 금지하는 바가 없고, 고위험 규제는 기업 자율에 맡겨두었을 뿐 아니라 처벌 규정도 두지 않았다. 인공지능에 의해 안전과 인권이 침해되는 사람들의 권리를 구제하기 위한 방안도 포함되어 있지 않다. GPT 등장 이후로 미국과 유럽이 서둘러 법률과 행정명령에 반영한 범용 AI에 대한 규제도 전혀 찾아볼 수 없다. 지난 8월 국가인권위원회가 국회에 인권영향평가 등 보다 실효적인 규제를 위하여 인공지능법안을 수정해야 한다는 의견을 표명하였으나, 이에 대한 수용 또한 이루어지지 않았다. 시민사회 등 인공지능의 영향을 받을 수 있는 당사자들을 포함한 사회 전반의 의견 수렴도 충분하지 않았다. 이런 가운데 최근AI 안전 정상회의 개최를 앞두고정부가 인공지능법안의 조급한 처리를 요구해온 상황이 더욱 우려스럽다.

 

세계 각국에서 인공지능 규제 정책이 구체화되자 일각에서 이와 모순되는 내용의 규제완화 인공지능법안의 국내 통과를 요구하는 촌극도 발생하고 있다. 그러나 이번 총선으로 새로 탄생할 22대 국회는 AI 기업 육성을 이유로 규제를 완화하고 국민의 안전과 인권에 위험을 초래해온 21대 국회의 오류를 답습하지 말아야 할 것이다. 특히 인공지능이 신기술이라는 이유로 과학기술 산업 육성을 소관하는 과기부와 국회 과방위의 일방적 추진에만 맡겨두어서는 안 될 것이다. 미국 정부가 강조하였듯이 인공지능의 위험 관리에는 시민의 안전과 인권에 미치는 영향에 대한 사회기술적(socio-technical) 관점이 필요하다. 따라서 인공지능법의 소관과 거버넌스 또한, 소비자보호기구, 개인정보감독기구, 인권기구가 함께 관여하여 규제 정책을 수립해 가는 세계 각국 사례를 참고하고 새로이 검토할 필요가 있다. 22대 국회가 인공지능 위험을 규제하는 세계적 흐름에 동참하여, 국민의 안전과 인권을 보장하는 방식으로 인공지능이 활용되는 미래를 열어가기를 바란다.

 

 

202443

 

건강권실현을위한보건의료단체연합(건강권실현을위한행동하는간호사회,건강사회를위한약사회, 건강사회를위한치과의사회, 노동건강연대, 인도주의실천의사협의회, 참의료실현청년한의사회), 광주인권지기 활짝, 무상의료운동본부, 문화연대 기술미디어문화위원회, 민주사회를위한변호사모임 디지털정보위원회, 사단법인 정보인권연구소, 서울YMCA 시민중계실, 언론개혁시민연대, 전북평화와인권연대, 진보네트워크센터, 참여연대, 천주교인권위원회, 홈리스행동

 

 

?

List of Articles
번호 분류 제목 글쓴이 날짜 조회 수
560 성명 [공동성명] AI 정상회의 개최를 핑계로 유명무실한 AI법안의 졸속처리를 압박하는 정부를 규탄한다 file 무상의료운동본부 2024.05.10 18
559 성명 [성명] ‘건강보험 종합대책’이라며 의료민영화 내놓는 윤석열 정부 규탄한다. file 무상의료운동본부 2024.04.25 70
558 논평 [논평] 윤석열 대통령 직속 ‘의료개혁특별위원회’ 위원장 내정 논평 노연홍 한국제약바이오협회장 내정- 윤석열표 ‘의료 개혁’이 사기임을 다시 확인해 주다. file 무상의료운동본부 2024.04.22 139
557 [논평] 제22대 국회의원 총선거 결과에 부쳐 역대 최대 참패를 당한 윤석열 정부 의료 민영화·시장화 정책을 즉각 중단하고 공공의료 확충에 재정을 쏟아야 한다. file 무상의료운동본부 2024.04.11 76
556 보도자료 [보도자료] 제22대 총선 각 정당 보건의료 정책 질의 결과 및 공약 평가 file 무상의료운동본부 2024.04.03 99
» 논평 [공동논평] 22대 국회는 인공지능이 국민 안전과 인권에 미치는 위험을 방지할 제대로 된 규제법을 마련해야 한다 file 무상의료운동본부 2024.04.03 94
554 보도자료 [기자회견] 제22대 총선 낙선 대상자 발표 기자회견-우리 건강과 생명을 위협하는 후보 22인 선정 영리병원 설립과 의료민영화 추진에 앞장선 최악의 후보 4인은 원희룡, 박정하, 강기윤, 윤희숙 file 무상의료운동본부 2024.04.02 181
553 논평 [논평] 윤석열 대통령 대국민 담화 논평 무심코 의사 증원의 진정한 속내를 드러내다 file 무상의료운동본부 2024.04.01 204
552 성명 [성명] 의료계와 보건의료 예산 논의하라는 대통령 의사·병원 단체들에게 예산 편성에 관여하도록 특혜를 주고, 세금을 퍼주는 것이 의료 개혁인가? file 무상의료운동본부 2024.03.27 234
551 논평 [논평] 무늬만 지역·필수 의료 의사 확대- 국가 책임 공공병원 확충, 공공의사 양성 없는 지역·필수 의사 수 확대는 기만이다. file 무상의료운동본부 2024.03.21 262
550 보도자료 [기자회견] 무상의료운동본부 제22대 국회의원 선거 정책 요구안 발표 기자회견 진짜 ‘의료 개혁’은 건강보험 강화, 의료 민영화 중단, 공공의료 확충이다! file 무상의료운동본부 2024.03.14 257
549 성명 [성명] 빅5 등 민간 대형병원 매출 감소를 국민의 건강보험료로 메워줘선 안 된다 file 무상의료운동본부 2024.03.07 236
548 성명 [성명] 비대면 진료 전면 시행은 의료대란의 대책이 될 수 없다. 의료대란 빌미로 한 재벌 대기업을 위한 의료 민영화 정책 중단하라. file 무상의료운동본부 2024.02.23 295
547 [보도자료]무상의료운동본부 선정 22대 국회의원 총선거 공천 부적격자 발표 file 무상의료운동본부 2024.02.22 294
546 성명 [성명] 의대정원 확대 반대를 위한 의사들의 집단행동은 아무런 정당성도 없다. 의협과 전공의들은 집단 진료거부 계획을 철회해야 한다. file 무상의료운동본부 2024.02.19 394
545 성명 [성명] 윤석열 정부의 제2차 국민건강보험 종합계획(안) - 공급자(의료기관)와 기업에는 보상을, 가입자(환자)들에게는 벌을 주는 국민건강보험 종합계획 폐기하라. 건강보험을 민간보험 지원과 의료 민영화 추진에 이용하지 말라 file 무상의료운동본부 2024.02.06 351
544 성명 [공동 성명] 실패한 정책 재탕인 윤석열 정부 ‘필수의료 정책 패키지’ 폐기하고 공공의료 강화하라 file 무상의료운동본부 2024.02.05 469
543 성명 [성명] 의료 민영화가 혁신이라는 윤석열 대통령 규탄한다. file 무상의료운동본부 2024.01.31 383
542 성명 [성명] 윤석열 정부의‘중증진료체계 강화 시범사업’은 건강보험 재정 낭비다. 즉각 철회하라 file 무상의료운동본부 2024.01.30 370
541 논평 [논평] 윤석열 정부의 건강보험료 부과체계 개편, 부유층에게 이득이다. file 무상의료운동본부 2024.01.09 488
Board Pagination Prev 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 ... 28 Next
/ 28

서비스 링크

X
Login

브라우저를 닫더라도 로그인이 계속 유지될 수 있습니다. 로그인 유지 기능을 사용할 경우 다음 접속부터는 로그인할 필요가 없습니다. 단, 게임방, 학교 등 공공장소에서 이용 시 개인정보가 유출될 수 있으니 꼭 로그아웃을 해주세요.

X