안녕하세요, 클루커스 구글 클라우드 컨설턴트 엄수민, 박보련, 오지수, 최재우입니다.
최근 몇 년 동안 자연어 처리(Natural Language Processing)는 상당한 발전을 이루었습니다. OpenAI의 GPT 및 Google의 PaLM과 같은 대규모 언어 모델(Large Language
Model)의 개발로 NLP는 이제 텍스트 생성 및 번역에서 질문 답변 및 요약에 이르기까지 광범위한 작업을 수행할 수 있습니다.
이번 포스팅에서는 PaLM2와 Duet AI for Google Workspace, Generative AI Studio,Generative AI App Builder에 대해서 알아보고, Generative AI API를 사용해 생성한 클루
커스 내규 챗봇(사내 Infobot) 데모 결과를 보여드리겠습니다.
Google Cloud Generative API
PaLM2란?
2022년 4월에 공개된 PaLM의 다음 세대인 PaLM2는 이번 구글 I/O 2023에서 공개한 개발한 대규모 언어 모델입니다. PaLM2는 다양한 언어 작업을 수행할 수 있으며, 자연어 생성, 질의 응답, 번역, 요약 등에서 뛰어난 성능을 보입니다.
PaLM2는 네 가지 사이즈로 출시 되었고, 현재 Google Cloud에서 사용할 수 있는 사이즈는 Gecko, Bison 이렇게 두 가지 사이즈입니다.
Generative AI란?
Generative AI(Gen AI, 생성형 AI)는 텍스트 생성, 이미지 생성, 음성 생성, 동영상 생성 등 다양한 분야에서 인공지능을 활용하여 창의적인 결과물을 만들어내는 인공지능 기술입니다.
Gen AI는 텍스트, 이미지, 음성 등 다양한 분야에서 활용될 수 있으며, 창의적인 결과물을 만들어내기 위한 다양한 연구가 진행되고 있습니다.
Duet AI for Google Workspace
Duet AI for Google Workspace는 Google Workspace에 AI를 통합하여 생산성과 협업성을 향상시키는 새로운 도구입니다. Duet AI는 Gmail, Docs, Sheets, Slides에서 사용할 수 있으며, 사용자에게 다음과 같은 기능을 제공합니다.
- 글쓰기 도우미 : Duet AI는 사용자가 Google Docs에서 글을 쓸 때 맞춤형 피드백과 제안을 제공합니다.
- 데이터 분석 도우미 : Duet AI는 사용자가 Google Sheets에서 데이터를 분석할 때 시각화 및 자동화 기능을 제공합니다.
- 회의 도우미 : Duet AI는 사용자가 Google Meet에서 회의를 할 때 참여도를 높이고, 회의록을 작성하고, 회의 결과를 공유하는 데 도움을 줍니다.
Gen AI Studio
Gen AI Studio는 개발자가 PaLM2를 사용하여 애플리케이션을 만들고 배포할 수 있는 클라우드 기반 플랫폼입니다. Gen AI Studio는 GUI, CLI, 다양한 튜토리얼 및 문서 등 개발자가 생성형 AI를 시작하는데 도움이 되는 다양한 툴과 리소스를 제공합니다.
현재 Text-to-Text, Speech-to-Text, Text-to-Speech, Text-to-Image를 사용하실 수 있습니다.
Gen AI App Builder
Gen AI App Builder는 개발자가 코드를 작성하지 않고도 PaLM2를 사용하여 애플리케이션을 만들고 배포할 수 있는 도구입니다.
Gen AI App Builder에서 고객은 도메인, Database Table, 정형 데이터, 비정형 데이터 등을 업로드하여 사용할 수 있습니다.
Gen AI App Builder는 개발자가 고객 서비스, 마케팅, 판매 등 다양한 목적을 위한 애플리케이션을 만드는 데 사용할 수 있는 템플릿을
제공하며, 현재는 Enterprise Search와 Conversation AI를 사용할 수 있습니다.
데이터 보안
사용자는 혹시나 본인의 데이터가 외부에 유출되거나 혹은 구글이 사용하지 않을까? 하는 걱정을 할 수 있습니다.
하지만 Google Cloud에서는 Adater Layer를 사용했습니다. 이를 통해, 사용자는 단독으로 독립된 테넌트를 사용해 데이터가 외부에 유출되거나 구글이 모델을 학습하는 위험에 대한 걱정을 해결하게 됩니다. 또한, 매개변수를 저장하지 않으며, 전송 중인 데이터는 모두 암호화됩니다.
Demo: Cloocus Chat-Bot
Cloocus에서는 Generative AI의 다양한 서비스를 활용해, 다음과 같이 Google Chat을 연동한 사내 Chat-Bot을 제작했습니다.
- Closed Domain에 해당하는 사내 정보는 ‘Context’를 작성해 학습했으며, Chat-bot은 해당 내용을 기반으로 빠른 답변을 보였습니다.
- 해당 데모에서는 Google Cloud의 Generative AI Chat 모델인 ‘chat-bison@001’, ‘codechat-bison@001’을 사용했습니다.
※ 위 내용은 Gen AI를 통해 생성한 내용을 참고해 만든 포스팅입니다.
Google Cloud의 Generative AI는 23년 7월부터 한국어 지원이 공식 GA되었습니다.
한글로 질의응답이 가능하며,현재 위 Demo와 같은 성능을 보이고 있습니다.
앞으로 점점 더 발전하게 될 Google Cloud의 Generative AI, Cloocus와 함께 시작해보세요!