[Runyour Agent 10월 업데이트] 민감정보는 미리 차단하고, AI 모델은 조직 정책에 맞게

기업에서 AI 도입을 검토할 때 빠지지 않는 고민이 있습니다. 바로 데이터 보안과 AI 사용 정책입니다.

구성원이 업무 중 고객정보나 사내 민감정보를 AI에 입력하면 어떻게 될까요? 또 조직에서 사용하는 다양한 AI 모델을 내부 보안 정책에 맞춰 관리하려면 어떻게 해야 할까요?

이번 10월 Runyour Agent 업데이트에서는 이러한 고민을 조직 차원에서 관리할 수 있도록 가드레일과 AI 모델 허용·차단 기능을 새롭게 추가했습니다.

어떤 기능이 추가되었는지 함께 살펴볼까요?

1. 민감정보를 미리 걸러내는 ‘가드레일’

업무에 AI를 활용하다 보면 고객정보나 사내 민감정보가 포함된 내용을 실수로 입력할 가능성이 있습니다.

이러한 상황에 대비해 이번 업데이트에서는 조직별로 가드레일(Guardrail) 규칙을 관리할 수 있는 기능이 추가되었습니다.

가드레일은 사용자가 입력한 내용을 미리 검사하고, 설정된 규칙에 따라 민감정보를 탐지·차단하거나 마스킹 처리할 수 있도록 지원합니다. 예를 들어, 설정한 규칙에 해당하는 민감정보가 감지되면 해당 입력을 차단하거나 일부 내용을 가려서 처리하는 방식입니다. 관리자는 민감정보 탐지 결과와 이력을 확인할 수 있으며, 탐지 이력을 CSV 파일로 내려받아 별도로 관리하거나 내부 보고 자료로 활용할 수도 있습니다.

이를 통해 민감정보가 의도치 않게 AI 모델에 전달될 위험을 줄이고, 조직의 AI 사용 현황을 더욱 체계적으로 관리할 수 있습니다.

2. 우리 조직에서 사용할 AI 모델, 관리자가 직접 설정

기업에서는 다양한 AI 모델을 활용하는 동시에, 내부 보안 정책이나 운영 기준에 따라 특정 모델의 사용을 제한해야 할 때도 있습니다.

이제 Runyour Agent에서는 조직 관리자가 AI 프로바이더와 모델별 허용·차단 정책을 직접 설정할 수 있습니다. 조직에서 사용할 수 있는 AI 프로바이더와 모델을 정하고, 필요한 경우 특정 모델의 사용을 제한할 수 있습니다. 정책의 마지막 변경 정보도 확인할 수 있어, 관리자가 설정 현황을 파악하는 데 도움이 됩니다. 구성원은 조직에서 허용한 AI 모델을 활용하고, 관리자는 내부 운영 기준에 맞춰 일관된 AI 사용 정책을 유지할 수 있습니다.

AI 모델 선택을 구성원 개인에게만 맡기는 것이 아니라, 조직 차원에서 사용할 수 있는 모델의 범위를 관리할 수 있다는 점이 이번 업데이트의 핵심입니다.