[인더스트리뉴스 조창현 기자] 챗GPT 등 초거대·생성형AI가 빠르게 확산되고 있다. 일반적으로 생성형AI는 콘텐츠나 IT 분야에서만 활용된다고 생각하기 쉽지만, 제조업 분야에도 적용이 가능하다. KISTEP에서 공개한 자료에 따르면 생성형 AI를 활용해 재료를 설계하거나, 실제 데이터 대신 시뮬레이션 등을 통해 데이터를 합성하는 등 다양한 방식으로 활용할 수 있다.

초거대·생성형 인공지능이 빠르게 확산되고 있는 가운데, 국제사회는 책임감 있는 인공지능 혁신에 주목하고 있다. [사진=gettyimage]

생성형AI 확산 가속화로 국제사회는 책임감 있는 인공지능 혁신에 대한 고민을 거듭하는 중이며, 우리나라도 안전하고 신뢰할 수 있는 AI 사용 환경을 구축하기 위한 노력에 나서고 있다. 특히 지난 6월 30일에는 과학기술정보통신부(장관 이종호, 이하 과기정통부)가 EU와 함께 글로벌 디지털 규범 정립을 위해 협력하고자 ‘제1차 한-EU 디지털 파트너십 협의회’를 개최하기도 했다.

제1차 한-EU 디지털 파트너십 협의회 현장 [사진=과기정통부]

양자간 진행된 논의 중 AI 분야에서는 고위험 인공지능을 정의하고 신뢰할 수 있는 인공지능 구현을 목적으로 관련 법·정책 추진 현황 공유를 위한 상시 의사소통 채널을 구축하기로 했다. 또 인간중심적이고 신뢰할 수 있는 AI 촉진 및 AI 활용에 대한 긍정적인 영향을 극대화하기 위해 인공지능글로벌파트너십(GPAI) 내 국제협력 등을 강화하기로 했다. AI 분야에서 상호간 교류 활성화로 AI 분야 글로벌 규범을 선도하겠다는 것이다.

파트너십과 별개로 EU는 지난 2021년 집행위원회에서 인공지능법안을 마련했으며, EU이사회 및 의회에 제출해 검토를 끝마친 상태다. 향후 이사회와 의회에서 내놓은 수정안과 집행위원회에서 제출한 원안을 통합한 법안을 제정하기 위해 3자간 의견을 조율하는 협의를 진행할 예정이다.

국가기술표준원에서 진행한 AI 윤리 점검서식 KS 제정 설명회 [사진=산업부]

한편 산업 분야에 관계 없이 국제적인 규범과 표준 등을 선점하는 것은 관련 분야 경쟁력을 강화하거나, 영향력을 행사함에 있어 중요할 수 있다. 이에 산업통상자원부 국가기술표준원(원장 진종욱, 이하 국표원)에서도 AI 윤리 점검 서식과 관련된 KS를 제정한 바 있다.

국표원에서 발표한 표준은 AI윤리표준화포럼을 통해 논의 및 검증 과정을 거쳐 개발됐으며, 생성형 AI 서비스 확산과 윤리적 사용이 제기되는 시점에서 AI 제품·서비스 개발시 필요한 윤리적 고려항목을 제시했다. 기업에서 자체 점검할 수 있는 체크리스트를 제공하겠다는 것이다.

국표원에서 제시한 체크리스트 일부 [자료=국표원]

KS 제정과 관련해 지난 6월 개최된 설명회에서 진종욱 원장은 “기업이 AI 윤리 문제를 어떻게 대비해야 하는지 어려움을 겪고 있는 상황에서 제정된 KS 윤리 표준은 민간 주도로 만들어져 기업이 자율적으로 쉽고 유용하게 활용할 수 있다는 것에 의미가 있다”며, “국내 AI 산업에 대한 신뢰성을 강화하고, 기업의 글로벌시장 진출을 도울 수 있도록 AI 국제표준화도 적극 추진해 나가겠다”고 전했다.

진종욱 원장이 발언한 것과 같이 일반 기업에서는 AI 관련 윤리 문제에 대해 숙고하기 어려운 부분이 존재한다. 특히 많은 기계가 24시간 작동하는 현장에서 관련 윤리를 판단하는 것은 쉬운 일이 아니며, 명확한 판단 기준이 없기에 가치 판단이 어려울 수 있다.

이에 AI 윤리의식을 확산하고 민간이 자율적으로 규제하는 환경을 조성하기 위한 논의가 진행됐다. 과기정통부는 지난 5일 정보통신정책연구원 및 한국정보통신기술협회와 함께 ‘제2차 인공지능 윤리정책 포럼’을 개최했으며, AI에 대한 윤리적 개발 및 활용을 위한 논의와 더불어 AI 관련 신뢰성 검·인증 등 주요 정책과제에 대한 의견수렴을 진행한 바 있다.

포럼에 참석한 과기정통부 엄열 인공지능기반정책관은 “인공지능이 주는 혜택과 함께 인공지능의 잠재적 위험성, 부작용에 대한 우려가 증가하는 상황에서 책임감 있는 인공지능 사용이 어느 때보다 중요해지고 있다”고 강조하며, “포럼에서 논의된 사항을 반영하여 우리 기업이 자율적으로 인공지능 윤리·신뢰성을 확보할 수 있도록 가이드라인 제시 및 검증체계 마련 등 정부에게 요청한 사항에 대한 지원을 아끼지 않겠다”고 밝혔다.

[조창현 기자 (news@industrynews.co.kr)]

[저작권자 © FA저널 SMART FACTORY, 무단 전재 및 재배포 금지]