[Salesforce Knowledge] Einstein Trust Layer

배경

• 생성형 AI를 사용하다보면 '나의 데이터는 안전한가?' 혹은 '어떤 데이터가 어떻게 쓰이고 있는지 투명하게 알고 싶고, 신뢰성 있는 작업인가?'를 인지 하기위해 Salesforce에서는 Trust Layer를 구축했다.

 

Einstein Trust Layer

• 고객의 데이터와 개인정보보호를 제어하여 생성형 AI의 보안을 강화
• 게이트웨이와 검색 메커니즘을 통해 신뢰할 수 있는 AI를 구현 (안전한 데이터 검색, 동적 기반, 데이터 마스킹, 데이터 보존 금지 등 데이터를 보호하는 기능이 존재)
• 사용하고 있는 주체가 Salesforce에 권한이 있는 데이터를 기반으로만 프롬프트의 출력 데이터를 구성 (동적 기반)
• LLM으로 가기전 민감데이터를 마스킹하는 역할을 한다.
• 관련 정보가 없는 것을 거짓으로 꾸며내서 답하지 않도록 해준다. (할루시네이션 방지)

 

• Prompt Studio에서 프롬프트 탬플릿을 가져와서 Dynamic Grounding으로 접근 가능한 데이터로만 구성하고, 마스킹을 통해 LLM Gateway를 나갈 준비 마친다. (외부 LLM을 사용하면 Shared Trust를 통해 데이터 저장 및 학습을 금지한다. - 외부 회사랑 협력을 통해 이루어짐)

 

• AI를 통해 만들어진 응답 데이터를 사용하기 위해  Trust Layer로 유해성 감지와 마스킹 해제를 하여 최종 사용자에게 응답 데이터를 전달한다.
• Trust Layer는 내부적인 조정부터 응답까지의 모든 과정을 추적하고 관리하면서 고객의 데이터를 투명하게 관리

 

출처)

https://www.linkedin.com/pulse/einstein-trust-layer-aivaras-bliudzius-qxfne

https://www.salesforce.com/eu/artificial-intelligence/trusted-ai/