과천 스위트케이, 생성형AI ‘코에나이’ 개발… sLLM기반 검색·질의응답 기능 제공

과천 스위트케이가 개발한 맞춤 생성형AI인 ‘코에나이’의 사용예시. /스위트케이 제공

“ABB가 뭔가요?”

한국남동발전측 직원이 물음에 생성형AI 서비스인 ‘코에나이’는 “ABB는 Air Blast Circuit Breaker의 약어로, 한국어로 번역하면 공기차단기입니다”라고 답했다.

과천지식정보타운에 자리한 스위트케이가 특정기업을 위한 생성형AI ‘코에나이’를 개발해 이목을 집중시키고 있다.

19일 스위트케이에 따르면, 산업 분야 업무 혁신을 이루고 있는 한국남동발전을 위해 경량화된 거대언어모델(sLLM·small Large Language Model) 기술을 기반으로 한 맞춤형 생성형AI ‘코에나이’를 개발했다. 코에나이는 신속한 업무 처리를 지원하는 검색·질의응답 등의 기능을 제공한다.

현재 시범운영하고 있는 코에나이는 향후 보고서 요약과 초안 작성, 번역 등 업무 효율화를 지원하는 추가 기능을 반영해 내년 초 정식 오픈할 예정으로, 방대한 사내 업무 자료를 학습하면서도 내부망에서 독립 작동토록 설계돼 민감한 사내 정보와 기술 유출 등의 우려를 원천 차단하는 등 보안성을 강화했다.

코에나이의 핵심인 플랜트 특화 LLM 특장점. /스위트케이 제공

특히 코에나이의 핵심은 스위트케이의 ‘플랜트 특화 LLM’이다. 이는 외부 시스템과의 연동 없이 방화벽 내부에서 구동돼 높은 수준의 보안성을 유지하게 되며, 특히 검색 증강 생성 기술을 통해 내부 자료를 근거로 답변을 생성함으로써 허위정보를 사실처럼 제시하는 할루시네이션 현상을 최소화한다.

게다가 상대적으로 저렴한 서버나 장비에서도 원활하게 구동된다는 점 또한 초기 구축 비용 부담을 경감시킨다.

이준호 소장은 “스위트케이는 플랜트 특화 LLM의 선구적 적용을 통해, 앞으로도 플랜트 산업 현장의 생성형 AI 활용에 앞서 나가겠다”고 공언했다.

/송수은기자 [e-mail]