[더 안전하고 빠르고 정확한 금융 서비스를 위해 생성형 AI 활용] NVIDIA NIM 마이크로서비스와 가속 컴퓨팅으로 구동되는 생성형 AI는 기업이 포트폴리오 최적화, 사기 탐지, 고객 서비스 및 위험 관리를 개선하는 데 도움
더 안전하고 빠르고 정확한 금융 서비스를 위해 생성형 AI 활용
금융 서비스 산업(FSI) 기업의 91%가 인공 지능을 평가하고 있거나 이미 혁신을 주도하고 운영 효율성을 개선하며 고객 경험을 향상시키는 도구로 사용하고 있다. NVIDIA NIM 마이크로서비스와 가속 컴퓨팅으로 구동되는 생성형 AI는 기업이 포트폴리오 최적화, 사기 탐지, 고객 서비스 및 위험 관리를 개선하는 데 도움이 될 수 있다. 금융 서비스 애플리케이션을 강화하기 위해 이러한 기술을 활용하는 기업 중에는 엔트로피(Ntropy), 컨텍스트 AI(Contextual AI), 나야원(NayaOne) 등이 있으며, 이들은 모두 첨단 스타트업을 위한 엔비디아 인셉션(NVIDIA Inception) 프로그램의 회원사이다. 데이터와 생성형 AI의 안전한 사용을 위한 중앙 집중식 지능형 플랫폼을 제공하는 실리콘 밸리에 본사를 둔 스타트업 시큐리티(Securiti)는 NVIDIA NIM을 사용해 금융 서비스를 위한 AI 기반 코파일럿(copilot)을 구축하고 있다. 이번 주 라스베이거스에서 개최되는 선도적인 핀테크 컨퍼런스인 Money20/20에서 양사는 자사의 기술이 어떻게 이질적이고 복잡한 FSI 데이터를 은행, 핀테크, 결제 제공업체 및 기타 조직을 위한 실행 가능한 통찰력과 고급 혁신 기회로 전환할 수 있는지 시연할 것이다. Ntropy는 비정형 금융 데이터에 질서를 제공한다.뉴욕에 본사를 둔 Ntropy는 금융 서비스 워크플로에서 무질서, 임의성 또는 불확실성과 같은 다양한 엔트로피 상태를 제거하는 데 도움을 주고 있다. "A 지점에서 B 지점으로 돈을 옮길 때마다 은행 거래 내역서, PDF 영수증 및 기타 형태의 거래 내역에 텍스트가 남습니다"라고 Ntropy의 공동 설립자 겸 CEO인 Naré Vardanyan은 말했습니다. "전통적으로 이러한 비정형 데이터는 정리하여 금융 애플리케이션에 사용하기가 매우 어려웠습니다." 이 회사의 트랜잭션 강화 애플리케이션 프로그래밍 인터페이스(API)는 다양한 소스와 지역에 걸쳐 있는 금융 데이터를 표준화하여 금융 서비스 애플리케이션이 기존 방법보다 10,000배 저렴한 비용으로 단 몇 밀리초 만에 인간과 같은 정확도로 모든 트랜잭션을 이해할 수 있도록 지원하는 공통 언어 역할을 한다. NVIDIA H100 Tensor Core GPU에서 실행되는 Llama 3 NVIDIA NIM 마이크로서비스와 NVIDIA Triton Inference Server를 기반으로 한다. Ntropy는 Llama 3 NIM 마이크로서비스를 사용하여 네이티브 모델을 실행할 때보다 대규모 언어 모델(LLM)의 활용도와 처리량을 최대 20배 향상시켰다. 선도적인 조달-지불 소프트웨어 플랫폼 제공업체인 Airbase는 LLM과 Ntropy 데이터 인리치저를 사용하여 거래 승인 프로세스를 강화한다. Money20/20에서 Ntropy는 API를 사용하여 고객의 판매자 데이터를 정리하는 방법에 대해 논의하며, 이를 통해 위험 탐지 모델의 정확도를 개선하여 사기 탐지를 강화할 수 있다. 이를 통해 허위 거래 감소와 매출 손실을 모두 줄일 수 있다. 또 다른 데모에서는 자동화된 대출 에이전트가 Ntropy API를 활용하여 은행 웹사이트의 정보를 분석하고 관련 투자 보고서를 생성하여 사용자의 대출 분산 및 의사 결정 프로세스를 가속화하는 방법을 강조한다. 컨텍스트 AI는 FSI를 위한 검색 증강 생성을 발전시킨다.캘리포니아주 마운틴뷰에 본사를 둔 컨텍스트 AI는 RAG(Retrieval-Augmented Generation)로 구동되는 프로덕션 등급 AI 플랫폼을 제공하며 지식 집약적인 FSI 사용 사례에서 엔터프라이즈 AI 애플리케이션을 구축하는 데 이상적이다. Contextual AI의 CEO 겸 공동 설립자인 Douwe Kiela는 "RAG는 엔터프라이즈 AI를 프로덕션에 제공하기 위한 해답입니다. 엔비디아 기술과 대규모 언어 모델을 활용한 컨텍스트 AI RAG 2.0 플랫폼은 운영을 최적화하고 새로운 생성형 AI 기반 제품을 제공하려는 FSI 기업에 정확하고 감사 가능한 AI를 제공할 수 있습니다"라고 말했다. 컨텍스트 AI 플랫폼은 추출, 검색, 재순위 지정 및 생성을 포함한 전체 RAG 파이프라인을 몇 분 안에 배포하고 고객 요구에 따라 추가로 조정 및 전문화할 수 있는 최적화된 단일 시스템으로 통합하여 컨텍스트 종속 작업에서 훨씬 더 높은 정확도를 제공한다. HSBC는 컨텍스트 AI를 사용하여 관련 시장 전망, 금융 뉴스 및 운영 문서를 검색하고 종합함으로써 연구 통찰력과 프로세스 지침 지원을 제공할 계획이다. 다른 금융 기관들도 재무 분석, 정책 준수 보고서 생성, 재무 자문 쿼리 해결 등을 위해 Contextual AI의 사전 구축된 애플리케이션을 활용하고 있다. 예를 들어, 사용자는 "2025년 4분기까지 중앙은행 금리에 대한 예측은 어떻게 되나요?"라고 질문할 수 있다. 컨텍스트 AI 플랫폼은 소스의 특정 섹션에 대한 인용을 포함하여 사실에 입각한 문서에 근거한 간략한 설명과 정확한 답변을 제공한다. 컨텍스트 AI는 LLM 추론 성능을 가속화하고 최적화하기 위해 NVIDIA Triton Inference Server와 오픈 소스 NVIDIA TensorRT-LLM 라이브러리를 사용한다. NayaOne, 금융 서비스 혁신을 위한 디지털 샌드박스 제공런던에 본사를 둔 나야원(NayaOne)은 고객이 상용 배포 전에 AI 애플리케이션을 안전하게 테스트하고 검증할 수 있는 AI 샌드박스를 제공한다. 기술 플랫폼을 통해 금융 기관은 합성 데이터를 생성할 수 있고 수백 개의 핀테크 시장에 액세스할 수 있다. 고객은 디지털 샌드박스를 사용하여 공정성, 투명성, 정확성 및 기타 규정 준수 조치에 대해 애플리케이션을 벤치마킹하고 최고의 성능과 성공적인 통합을 더 잘 보장할 수 있다. 카란 자인(Karan Jain) 나야원(NayaOne) 최고경영자(CEO)는 "금융 서비스 분야에서 AI 기반 솔루션에 대한 수요가 가속화되고 있으며, 엔비디아와의 협력을 통해 기관들은 통제되고 안전한 환경에서 생성형 AI의 힘을 활용할 수 있다"고 말했다. "우리는 금융 기관이 더 빠르고 효과적으로 프로토타입을 만들 수 있는 에코시스템을 만들어 진정한 비즈니스 혁신과 성장 이니셔티브로 이어지고 있습니다." 나야원(NayaOne)의 AI 샌드박스는 NVIDIA NIM 마이크로서비스를 사용해 고객이 최적화된 AI 모델을 탐색하고 실험하며 보다 쉽게 배포할 수 있도록 지원한다. NVIDIA 가속 컴퓨팅을 통해 NayaOne은 광범위한 CPU 기반 모델을 실행하는 것에 비해 최대 40% 낮은 인프라 비용으로 사기 탐지 모델에 사용되는 대규모 데이터 세트에 대해 최대 10배 더 빠른 처리를 달성한다. 또한 디지털 샌드박스는 오픈 소스 NVIDIA RAPIDS 데이터 사이언스 및 AI 라이브러리 세트를 사용하여 자금 이동 애플리케이션의 사기 탐지 및 예방 기능을 가속화한다. 엔비디아는 머니20/20(Money20/20)의 엔비디아 AI 파빌리온(NVIDIA AI Pavilion)에서 디지털 샌드박스를 시연할 예정이다. Securiti, AI Copilot으로 재무 계획 개선안전한 엔터프라이즈 AI 코파일럿, LLM 훈련 및 튜닝을 포함한 광범위한 생성형 AI 애플리케이션을 지원하는 Securiti의 매우 유연한 데이터+AI 플랫폼을 통해 사용자는 안전한 엔드 투 엔드 엔터프라이즈 AI 시스템을 구축할 수 있다. 이 회사는 현재 NVIDIA NIM 기반 재무 계획 도우미를 구축하고 있다. 코파일럿 챗봇은 개인 정보 보호 및 권한 정책을 준수하면서 다양한 금융 데이터에 액세스하여 사용자의 금융 관련 질문에 대한 컨텍스트 인식 응답을 제공한다. Securiti의 최고 데이터 책임자인 Jack Berkowitz는 "은행은 데이터 보안, 개인 정보 보호 및 규정 준수를 유지하면서 개인화된 금융 조언을 대규모로 제공하는 데 어려움을 겪고 있습니다. "안전하고 확장 가능한 지원을 위한 강력한 데이터 보호 및 역할 기반 액세스를 통해 Securiti는 개별 목표에 맞는 맞춤형 금융 조언을 제공하는 안전한 AI 코파일럿을 구축할 수 있도록 지원합니다." 챗봇은 수익 기록, 고객 프로필 및 계좌 잔액, 투자 연구 문서와 같은 다양한 소스에서 데이터를 검색한다. Securiti의 솔루션은 고성능 NVIDIA 기반 LLM과 함께 사용할 수 있도록 안전하게 수집하고 준비하여 액세스 권한과 같은 제어 기능을 보존한다. 마지막으로 간단한 소비자 인터페이스를 통해 사용자에게 맞춤형 응답을 제공한다. Securiti는 Llama 3 70B-Instruct NIM 마이크로서비스를 사용하여 LLM의 성능을 최적화하는 동시에 데이터의 안전한 사용을 보장했다. 이 회사는 Money20/20에서 생성형 AI 솔루션을 시연할 예정이다. NIM 마이크로서비스와 Triton Inference Server는 NVIDIA AI Enterprise 소프트웨어 플랫폼을 통해 사용할 수 있다. (NVIDIA) <저작권자 ⓒ ainet 무단전재 및 재배포 금지>
|
많이 본 기사
챗GPT와 AI, 로봇 많이 본 기사
최신기사
|