[탤@jhleebot]<네이버상단작업>>

[탤@jhleebot]<네이버상단작업>> 크라우드웍스·셀렉트스타 등보안·신뢰성 검증 솔루션 봇물정보 오류·편향 파악해 수정기업 절반 “AI 신뢰성 우려”금융권 중심 수요 급증세인공지능(AI) 에이전트 등 AI 서비스 도입 수요가 급증하면서 사전에 AI 서비스의 신뢰성을 검증할 수 있는 솔루션이 잇달아 등장하고 있다. 결과물의 편향성이나 부작용에 대한 우려로 기업들이 AI 도입을 주저하자 이 지점을 공략하기 위해 국내 스타트업이 대거 나서는 것이다.12일 정보기술(IT) 업계에 따르면 AI 데이터 기업인 크라우드웍스와 셀렉트스타는 지난달 각각 AI 신뢰성 검증 솔루션인 ‘알피 이밸류에이션’과 ‘다투모 이밸’을 출시했다.두 서비스 모두 AI 모델의 신뢰성과 안전성을 사전에 평가해 기업들이 실제 서비스 도입 전에 AI 서비스의 취약점을 찾아 보완할 수 있도록 하는 것이 특징이다.검증 과정은 크게 AI 기술을 활용해 평가 대상인 모델의 데이터세트를 분석하고, 해당 AI의 취약점을 이끌어낼 수 있는 질문을 생성해 답변을 분석하는 방식으로 진행된다. 또 부족한 점이 있다면 개선을 위해 AI가 필요한 데이터를 가져와 평가 모델을 보완한다.AI가 정치적으로 편향된 답변을 제공하거나 부정확한 결과를 도출하는 사례를 잡아내는 것은 물론, 서비스 제공 범위를 벗어나는 내용을 이용자에게 제시하지 않도록 하는 것도 신뢰성 검증 솔루션의 역할이다.AI를 실제 업무에 활용하고자 하는 기업들의 관심은 그 어느 때보다 뜨겁다. 대한상공회의소의 최근 조사 결과에 따르면 국내 기업의 78.4%가 AI 도입의 필요성을 인식하고 있는 것으로 나타났다. 시장조사기관 CB인사이츠 조사에서는 글로벌 기업 중 63%가 향후 1년 동안 AI 에이전트 도입을 매우 중요하게 고려하고 있다고 답했다.다만 기업들은 신뢰성과 보안 관련 우려를 AI 에이전트 도입의 장애 요소로 꼽고 있다. CB인사이츠에 따르면 조사 대상 기업 중 47%가 신뢰성과 보안 문제를 우려하고 있다고 답했다. 이는 기업들이 AI를 도입하고자 하는 수요를 확실히 잡기 위해서는 AI의 신뢰성 문제 해결이 선행돼야 한다는 의미다.크라우드웍스는 AI 모델의 신뢰성 평가와 안전 http://m.dmztrail.or.kr/bbs/board.php?bo_table=qa&wr_id=15831