전자신문이 창간 44주년을 맞아 기획한 특별 연재 'AI 세이프가드'의 마지막 순서로 정부·학계·산업계 전문가가 참여한 좌담회가 열렸다. 이번 좌담회에는 고학수 서울대 법학전문대학원 교수, 권순일 업스테이지(Upstage) 최고전략책임자(CSO), 김세엽 셀렉트스타 대표, 변순용 서울교대 윤리교육과 교수, 이진수 과학기술정보통신부 인공지능정책기획관이 참석해 안전한 AI 활용 생태계 구축 과제와 전략을 논의했다.
정부·학계·산업계가 한자리에 모인 좌담회
이날 좌담회에서는 AI 안전성을 단순한 규제 대상이 아니라 산업 경쟁력을 결정짓는 요소로 봐야 한다는 의견이 제시됐다. 개발 속도를 늦추기보다 안전성을 확보하며 속도를 내는 '안전한 가속'이 현실적인 해법이라는 진단도 나왔다. 가장 앞선 성능을 지향하는 프런티어(Frontier) AI 기술 개발 속도를 조절해야 한다는 논의에 대해서는, 미국과 중국을 추격해야 하는 한국의 산업 위치를 함께 고려해야 한다는 지적이 이어졌다.
안전성을 바라보는 시각이 달라진 지점
정부가 제시한 '대한민국 AI 윤리원칙'은 인간 중심성, 프라이버시 보호, 공정성, 포용성, 책임성, 안전성, 신뢰성, 투명성 등 7대 원칙으로 구성된다. 좌담회에서는 이 원칙을 실제 개발·배포·이용 과정에서 작동시키려면 레드팀 구성과 체계적인 평가·검증 틀이 필요하다는 의견이 나왔다. 레드팀은 시스템의 취약점을 찾아내기 위해 공격자 관점에서 미리 점검하는 조직을 뜻한다.
산업 현장에서 나타나는 AI 위협 유형은 네 가지로 정리됐다.
- 환각: 사실과 다른 정보를 그럴듯하게 생성하는 현상
- 오작동: AI가 의도하지 않은 오류 행동을 수행하는 현상
- 불공정성: 편향되거나 차별적인 판단을 내리는 현상
- 통제 이탈: 허가받지 않은 행동을 하는 현상
이 가운데 현재 산업 현장에서 가장 큰 문제로 꼽히는 것은 환각으로, 성능과 안전성 양쪽 모두에 영향을 미친다는 평가가 나왔다. 사용자 명령을 넘어 실제 작업을 수행하는 AI 에이전트가 확산되면 오작동 문제의 중요성이 더 커질 것으로 전망됐다. AI 에이전트는 단순 응답을 넘어 예약, 결제, 코드 실행 등 실제 행동을 스스로 수행하는 AI 시스템을 가리킨다.
기업 규모별 과제와 앞으로 지켜볼 지점
좌담회에서는 AI 안전성 확보가 기업 상황에 따라 다르게 작용할 수 있다는 지적도 나왔다. 성장 초기 스타트업에는 안전성 확보가 비용 부담으로 작용할 수 있지만, 기성 기업에는 오히려 경쟁력 요소가 될 수 있다는 것이다. 국가 차원에서 AI 안전성과 신뢰성을 확보하면 기술 수출과 해외시장 진출로 이어질 수 있다는 의견도 함께 제시됐다.
이번 좌담회는 윤리원칙을 현장에 적용하기 위한 구체적인 레드팀 운영 방식이나 평가·검증 체계의 세부 내용까지는 다루지 않았다. 기업 규모와 성장 단계에 따라 안전성 확보 수준이 달라질 수 있다는 지적이 나온 만큼, 정부와 산업계가 이를 어떤 방식으로 제도화할지는 추후 확인이 필요한 부분으로 남았다.
참고 기사 전자신문 · [AI 세이프가드] ⑤ 좌담회 - “AI 안전은 산업 경쟁력 결정 요소”…'안전한 가속' 주문