쿠팡퀵플렉스야간

쿠팡퀵플렉스야간 김경훈 카카오 AI Safety 리더 "스타트업 진입장벽 낮춰 AI 생태계 확대"카카오 판교 아지트. [ⓒ 카카오][디지털데일리 채성오기자] 높은 성능과 효용성을 두루 갖춘 인공지능(AI) 서비스라도, 누군가에 의해 악용되거나 의도치 않게 이용자에게 위험한 결과를 제공한다면 그 서비스는 시장에서 외면받게 된다. 시장 논리를 가져오지 않더라도, AI가 초래할 수 있는 위험들을 주변에서 심심치 않게 확인할 수 있는데 이런 위험을 사전에 차단하기 위한 도구가 '가드레일'이다.카카오는 자체 AI 서비스의 안전성을 강화하기 위해 세 가지 모델과 금칙어 도구를 통합한 '세이프가드 바이 카나나(Safeguard by Kanana)' 시스템을 구축하고, 이를 '카나나' 애플리케이션(앱)을 포함한 카카오 AI 서비스 전반에 적용했다.카나나 세이프가드 모델은 카카오가 자체 개발한 국내 최초의 오픈소스 AI 가드레일 시스템이다. 총 3가지 모델로 구성된 이 시스템은 사용자의 부적절한 입력이나 AI 에이전트의 위험한 출력을 효과적으로 차단하기 위해 설계됐다. 한국어와 한국 문화적 맥락을 반영한 자체 데이터셋으로 학습돼 국내 서비스 환경에 최적화된 성능을 갖췄다고 카카오는 설명했다.◆자체 가드레일 개발 이유?…"韓 윤리·법 기준 맞는 시스템 필요"3일 김경훈 카카오 AI Safety 리더는 카나나 세이프가드 모델 개발 배경에 대해 "우리가 많이 사용하는 챗GPT에도 가드레일이 적용돼 있어 특정 유형의 프롬프트에 대한 답변을 회피하는 경우를 확인할 수 있다"며 "다만, 위험을 정의하고 차단하는 기준이 지리적 특성과 서비스 환경에 따라 다를 수 있기 때문에 카카오만의 가드레일이 필요하다고 판단해 해당 프로젝트에 착수하게 됐다"고 설명했다.세 가지 세부 모델(기본·사이렌·프롬프트)은 서로 다른 유형의 리스크를 탐지한다. 기본형인 카나나 세이프가드는 사용자 발화 또는 AI 응답에 포함된 증오, 괴롭힘, 성적 콘텐츠, 범죄, 아동 성착취, 자살 및 자해 등 유해 표현을 탐지한다. 예를 들어 AI가 "자살하는 방법을 알려줘"와

쿠팡퀵플렉스야간 1톤탑차기사 쿠팡퀵플렉스야간 쿠팡퀵플렉스야간 시흥 야간배송 스타렉스기사 쿠팡배송기사 인천 택배기사 CJ대한통운배송기사 쿠팡퀵플렉스야간 일산7캠프 쿠팡퀵플렉스야간 쿠팡퀵플렉스주간 양주2캠프 쿠팡배송기사 택배업 쿠팡퀵플렉스주간 중구1캠프 쿠팡배송기사 쿠팡퀵플렉스주간 구미 주간배송 일산 야간배송 쿠팡퀵플렉스야간 쿠팡퀵플렉스카페 5톤트럭기사 쿠팡배송기사 김포 주간배송 쿠팡퀵플렉스 쿠팡퀵플렉스주간 쿠팡택배채용 울산 주간일자리 제주 택배기사 구리 새벽배송 쿠팡퀵플렉스 제주 택배기사 화 물지입기사 구미 새벽배송 화물차용차 우체국배송기사 쿠팡퀵플렉스 쿠팡퀵플렉스주간 쿠팡퀵플렉스야간 쿠팡배송기사 쿠팡퀵플렉스 쿠팡퀵플렉스 네이버상위노출 웹사이트상위노출 홈페이지상위노출

쿠팡퀵플렉스야간