<사진1-숭실대 AI 안전성 연구센터 세미나 단체사진. 세미나는 숭실대학교 전산관 다솜홀에서 진행됐다(사진=숭실대)>

숭실대학교(총장 장범식) AI 안전성 연구센터(센터장 최대선)는 지난 9일 오후 4시 전산관 다솜홀에서 ‘AI 안전성 연구센터 세미나’를 개최하고, ㈜엔키화이트햇(대표 이성권)과의 연구협력(MOU)을 체결했다고 밝혔다. 본 세미나는 온라인과 오프라인으로 진행됐으며, 총 60여 명이 참석했다.

세미나에서는 한국인공지능 법학회 최경진 회장과 숭실대 AI 안전성 연구센터 최대선 센터장의 발표가 진행됐다. 최경진 회장은 ‘글로벌 AI규제 동향’을 주제로 발표하며, “AI 규제 입법을 위해서는 국내 AI 기술 경쟁력 확보와 AI 리더 그룹과의 협업, 그리고 국제 거버넌스 참여 등의 적극적인 노력이 필요하다”고 언급했다. 또한, 그는 신뢰할 수 있는 AI 프레임워크 개발과 면밀한 글로벌 동향 분석도 중요성에 대해 강조했다.

이어 최대선 센터장은 ‘AI 안전성 이슈와 전망’에 대해 발표했다. 그는 AI 안전성 문제를 ▲AI에 대한 적대적 공격 ▲AI 악용 ▲통제력 상실 ▲국가 안보 위협(CIB)등으로 분류하며, 이로 인한 문제 발생을 최소화할 수 있는 방안으로 AI 사용제한, 통제 가능한 설계 원칙 적용, 지속적인 모니터링 및 업데이트 등을 제시했다. 또한, “AI 위협에 대한 기술적 대응은 결국 ‘창과 방패의 대결’과 같으며, 공격을 완전히 차단하는 것은 불가능하지만 최소화하는 것이 목표“라고 밝혔다.

세미나 이후에는 숭실대 AI 안전성 연구센터와 전문 화이트해커 그룹 ㈜엔키화이트햇의 MOU 체결식이 진행됐다. 양 기관은 AI 안전성 점검을 위한 레드티밍 연구 분야에서 긴밀한 협력을 약속하며, 향후 AI 안전성 강화를 위한 공동 연구를 이어갈 예정이다. .

숭실대 AI 안전성 연구센터는 지난 10월 개소 이후 ‘대한민국 AI 안전컨소시엄’에 주요 참여 기관으로 합류해, ▲AI 안전 프레임워크(위험 식별·평가·완화) 연구 및 실증 ▲AI 안전 관련 정책 연구 ▲국제 규범 대응 등의 활동을 수행하고 있다. 또한, 빠르게 변화하는 AI 안전성 문제에 대응하기 위한 다양한 연구와 프로젝트를 추진할 계획이다.

<사진2-숭실대 AI 안전성 연구센터와 전문 화이트해커 그룹인 ㈜엔키화이트햇의 MOU 체결 사진(사진=숭실대)>