이 기사에는 다중 모델 데이터베이스 제공업체 EDB의 최고 엔지니어링 책임자인 Max Romanenko와의 인터뷰에서 얻은 주요 통찰력이 요약되어 있습니다. 토론에서는 규제 대상 기업이 강력한 데이터 및 인프라 계층 제어를 통해 민감한 데이터 유출 및 비준수 과잉 조치를 비롯한 에이전트적 AI 위험을 제거할 수 있는 방법에 중점을 둡니다.
AI 에이전트, 인간 사용자 및 기존 애플리케이션 간의 핵심 차이점
AI 에이전트는 인간 운영자 및 기존 애플리케이션과 근본적으로 다릅니다. 훨씬 빠른 실행 속도와 충실도로 연중무휴로 작동하는 AI 에이전트는 3년 내에 전 세계 디지털 인력을 34% 이상 확장할 예정입니다. 이는 인간 인력이 달성하는 데 수십 년이 걸린 성장 규모입니다. 이러한 신속한 채택에는 액세스 제어, 의사결정 거버넌스 및 인프라 설계를 위한 완전히 새로운 프레임워크가 필요합니다.
기존 애플리케이션은 고정되고 예측 가능한 매개변수 내에서 작동하는 반면 인간 사용자는 명확한 역할 기반 비즈니스 컨텍스트에 따라 작동합니다. 이와 대조적으로 AI 에이전트는 미리 정의된 경계 없이 작동합니다. 즉, 작업을 자동으로 해석하고, 필요한 상황별 데이터를 결정하고, 단계별 사람 승인 없이 실시간 정보를 검색합니다. 기존의 자격 증명 검증으로는 더 이상 충분하지 않습니다. IT 시스템은 추가로 검증해야 합니다.에이전트의 행동이 할당된 작업 범위와 일치하는지 여부. 예를 들어, 은행 사기 탐지 에이전트는 관련 없는 교차 데이터 액세스를 차단하는 엄격한 인라인 데이터 거버넌스를 통해 진행 중인 사건과 관련된 고객 기록에만 액세스해야 합니다.
에이전트별 ID 및 액세스 관리(인간 IAM과 구별됨)
AI 에이전트에는 전용 ID 및 상황별 액세스 제어 시스템이 필요하며 기존의 인간 IAM 프레임워크에 의존할 수 없습니다. 에이전트는 시간당 수백 가지의 다양한 작업을 자주 실행하며, 이를 중심으로 동적으로 조정되고 상황 인식 권한이 필요합니다.작업별및 시나리오 기반 액세스 정밀도.
널리 퍼져 있는 기업 보안의 함정은 작업 기반 데이터 액세스의 적법성이 아닌 자격 증명만 검증하여 에이전트에게 광범위한 서비스 계정 권한 또는 전체 상속된 인간 사용자 권한을 부여하는 것입니다. 은행 사기 분석, 고객 서비스 등 고유한 비즈니스 기능을 가진 에이전트에는 엄격한 데이터 보안 가드레일을 구축하기 위해 격리된 ID와 맞춤형 권한 경계를 할당해야 합니다.
시스템 간 AI 에이전트에 대한 권한 경계 정의 및 시행
여러 시스템에서 작동하는 AI 에이전트에는 다음이 필요합니다.선제적이고 목적에 따른 액세스 경계. 호출하는 사용자나 애플리케이션이 더 넓은 권한을 보유하고 있더라도 에이전트는 즉각적인 작업에 필수적인 데이터에만 액세스해야 합니다. 권한은 실시간 작업 요구 사항으로 엄격하게 제한되어야 하며 작업 완료 시 만료됩니다.
일반 애플리케이션 계층 정책은 API, 검색 시스템 및 데이터베이스에 걸친 에이전트 활동을 관리하지 못합니다. 보안 시행은 민감한 기록이 상주하고 최종 액세스 결정이 내려지는 데이터 계층으로 전환되어야 합니다. EDB는 애프터마켓 제어 플레인에 의존하지 않고 PostgreSQL의 기본 역할 기반 권한과 행 수준 보안(RLS)을 활용하여 데이터베이스 수준에서 에이전트 거버넌스를 시행합니다. 이 접근 방식은 향후 릴리스 예정인 포괄적인 에이전트 거버넌스 계층을 통해 보안과 성능의 균형을 유지합니다.
상속된 인간 권한으로 인한 규정 준수 위험 완화
레거시 엔터프라이즈 권한 아키텍처는 자율적이고 동적으로 행동하는 AI 에이전트가 아닌 신뢰할 수 있는 인간 직원과 결정론적 애플리케이션을 위해 설계되었습니다. 이로 인해 규제 대상 산업에 심각한 규정 준수 위험이 발생합니다. 의료 및 금융 서비스 대리인은 유효한 자격 증명을 통해 민감한 환자 또는 고객 데이터에 합법적으로 액세스할 수 있지만 허용되는 비즈니스 범위를 초과하여 규정 준수 위반을 유발할 수 있습니다.
최종 솔루션은 각 AI 에이전트에 고유하고 독립적인 ID, 작업 잠금 권한, 분리된 읽기/쓰기 권한을 제공하는 것입니다. 데이터베이스 수준 행 수준 제어는 정확한 데이터 가시성을 강화하여 에이전트가 규제 없이 기업 규정 준수 시스템을 우회하는 것을 방지합니다.
규제된 AI 환경에 대한 감사, 행 수준 제어 및 정책 표준
규정 준수 등급 에이전트 감사에는 전체 비즈니스 컨텍스트를 재구성하기 위한 엔드투엔드 추적성, 완전한 로깅 에이전트 ID, 호출 소스, 액세스된 데이터, 권한 부여 정책 및 후속 조치가 필요합니다. 이는 기본 액세스 로그가 제공할 수 없는 기능입니다. 효과적인 거버넌스는 다음에 달려 있습니다.기본 데이터 계층 적용회고적 감사가 아닌 PostgreSQL의 내장 제어를 통해.
또한 시스템은 시나리오에 맞는 권한을 사용하여 에이전트 읽기 및 쓰기 작업 간의 위험 수준을 구별해야 합니다. 예를 들어 사기 조사를 위한 고객 데이터 액세스는 임상 및 관리 환자 데이터 액세스가 의료 분야에서 분리된 것처럼 일상적인 고객 서비스 문의와 다릅니다. 행 수준 보안은 소스에서 범위를 벗어난 액세스를 차단하여 에이전트를 작업과 일치하는 기록으로만 제한하고 대량의 민감한 데이터 노출 위험을 제거합니다.
주권 데이터 인프라를 통해 규제 대상 산업에 대한 AI 채택 확보
금융, 통신, 의료 기관은 다음 핵심 원칙을 준수해야 합니다.데이터를 AI로 가져오는 것이 아니라 AI를 데이터로 가져오세요. 규제된 민감한 데이터는 통제되지 않는 외부 플랫폼으로 마이그레이션되어서는 안 됩니다. 이는 주권 거버넌스 경계를 무너뜨리고 노출 위험을 초래합니다.
기업은 기존의 신뢰할 수 있고 관리되는 데이터 기반 위에 AI와 분석을 배포해야 합니다. 트랜잭션 데이터, 분석 워크로드 및 에이전트 AI를 단일 호환 아키텍처에 통합하면 단편화된 플랫폼과 일관되지 않은 제어 모델을 제거하여 강제 데이터 마이그레이션 및 공급업체 종속을 방지합니다.
데이터 주권: 법적 조건부터 기술적 집행까지
데이터 주권은 단지 법적 또는 계약적 요구 사항으로만 남아 있을 수 없으며 런타임 시스템 논리에 내장되어야 합니다. 법적 계약은 무단 데이터 집계, 도메인 간 쿼리 또는 규제된 데이터 유출과 같은 상담원의 행동을 제한할 수 없습니다. 규제 대상 기업은 실시간 필수 보안 제약 조건을 제공하기 위해 기본 데이터베이스 권한 및 행 수준 보안을 통해 데이터 계층에서 주권 제어를 시행해야 합니다.
주권 거버넌스에서 AI 에이전트의 역할
AI 에이전트는 데이터 주권 관리를 지원할 수 있지만절대 최종 권한을 부여해서는 안 됩니다.. 비정상적인 액세스 패턴을 효과적으로 식별하고, 잘못 정렬된 데이터 사용에 플래그를 지정하고, 오래된 구성을 감지하여 복잡한 최신 데이터 환경에 대한 수동 검사 부담을 줄여줍니다.
그러나 핵심 주권 규칙과 보안 경계는 인간 관리자가 정의하고 제어해야 합니다. AI 에이전트는 기업이 설정한 거버넌스 프레임워크 내에서 엄격하게 작동하며 확립된 규정 준수 및 주권 정책을 무시하거나 우회할 권한이 없습니다.
베이징 Qianxing Jietong Technology Co., Ltd.
양샌디/글로벌 전략 이사
WhatsApp/위챗: +86 13426366826
이메일: yangyd@qianxingdata.com
웹사이트: www.qianxingdata.com/www.storagesserver.com
사업 초점:
ICT 제품 유통/시스템 통합 및 서비스/인프라 솔루션
20년 이상의 IT 유통 경험을 바탕으로 당사는 선도적인 글로벌 브랜드와 협력하여 신뢰할 수 있는 제품과 전문 서비스를 제공합니다.
“기술을 활용한 지능형 세상 구축” 신뢰할 수 있는 ICT 제품 서비스 제공업체!
귀하의 메시지는 20-3,000 자 사이 여야합니다!
Korean
