기업 리더가 대규모 언어 모델을 사용하여 새로운 가능성을 열어줄 수 있는 5가지 방법

VB Transform 2023의 세션을 보려면 주문형 라이브러리로 이동하세요. 여기에서 등록하세요.

생성 AI, 특히 ChatGPT와 같은 대규모 언어 모델(LLM)을 둘러싼 소문을 놓쳤을 가능성은 거의 없습니다. 최근 몇 달 동안 이러한 문제는 소셜 미디어, 뉴스, 일상 대화 등 모든 곳에서 뜨거운 주제가 되었으며, 우리는 생성 AI가 무엇을 할 수 있는지 이제 막 배우기 시작했습니다.

일반적으로 Gen AI는 인간이 만든 콘텐츠와 매우 유사한 이미지, 음악, 텍스트와 같은 콘텐츠를 만들 수 있는 머신러닝(ML) 기술 범주를 나타냅니다. 반면 LLM은 방대한 양의 텍스트 데이터에 대해 훈련된 수십억 개의 매개변수를 갖춘 신경망으로, 이를 통해 인간과 유사한 언어를 이해하고 처리하고 생성할 수 있습니다.

이러한 기술은 다양한 산업을 재편하고 인간과 기계 간의 상호 작용 품질을 증폭시킬 수 있는 잠재력을 지닌 다양한 애플리케이션을 제공합니다. 이러한 응용 프로그램을 탐색함으로써 비즈니스 소유자와 기업 의사 결정자는 귀중한 영감을 얻고 성장을 가속화하며 신속한 프로토타이핑을 통해 실질적으로 향상된 결과를 얻을 수 있습니다. Gen AI의 또 다른 장점은 대부분의 애플리케이션에 최소한의 전문 지식이 필요하고 추가 모델 교육이 필요하지 않다는 것입니다.

빠른 면책조항: 사람들은 Gen AI를 ChatGPT와 독점적으로 연결하는 경향이 있지만 Google의 T5, Meta의 Llama, TII의 Falcon 및 Anthropic의 Claude와 같은 다른 제공업체의 수많은 모델이 있습니다. 이 기사에서 논의된 대부분의 애플리케이션은 OpenAI의 ChatGPT를 사용했지만 특정 컴퓨팅 예산, 대기 시간(모델이 완료를 생성하는 데 필요한 속도 - 더 작은 모델은 더 빠른 로드를 허용)에 맞게 기본 LLM을 쉽게 조정하고 전환할 수 있습니다. 추론 지연 시간 감소) 및 다운스트림 작업을 수행합니다.

VB 변환 2023 온디맨드

VB Transform 2023 세션을 놓치셨나요? 모든 주요 세션에 대한 주문형 라이브러리에 액세스하려면 등록하세요.

LLM은 초기 사용자 정의 없이도 번역 및 요약과 같은 다양한 작업에서 바로 인상적인 기능을 보여줍니다. 그들이 이러한 일반적인 작업을 매우 잘 수행하는 이유는 기본 기반 모델이 대규모이지만 일반적인 데이터 세트에 대해 훈련되었기 때문입니다. 그러나 이 역량은 예를 들어 회사의 연례 보고서에 대한 답변 제공을 포함하여 도메인별 작업으로 원활하게 확장되지 않을 수 있습니다. 이것이 바로 검색 증강 생성(RAG)이 등장하는 지점입니다.

RAG는 ​​외부 데이터 소스를 활용하는 LLM 기반 시스템을 구축하기 위한 프레임워크입니다. RAG는 ​​사전 훈련 중에는 볼 수 없었던 데이터에 대한 LLM 액세스 권한을 제공하지만 이는 적절하고 정확한 응답을 올바르게 제공하는 데 필요합니다. RAG를 사용하면 ChatGPT와 같은 언어 모델이 자연어 처리(NLP) 능력을 외부 지식과 결합하여 부정확한 정보 또는 "환각" 생성 사례를 완화함으로써 도메인별 질문에 더 나은 답변을 제공할 수 있습니다. 이는 다음을 통해 수행됩니다.

이러한 접근 방식을 통해 LLM은 질문 답변, 콘텐츠 생성, 실시간 데이터에 액세스할 수 있는 대화형 대화 등 다양한 도메인 및 응용 프로그램에서 더욱 다양하고 유용해집니다. 팟캐스트 앱인 Podurama는 유사한 기술을 활용하여 AI 기반 추천 챗봇을 구축했습니다. 이러한 봇은 사용자 쿼리를 기반으로 관련 프로그램을 능숙하게 제안하고, 팟캐스트 내용에서 통찰력을 얻어 추천을 개선합니다.

이 접근 방식은 위기 관리에도 유용합니다. SaaS 사고 대응 플랫폼인 PagerDuty는 LLM을 사용하여 제목, 심각도 또는 기타 요인과 같은 기본 데이터를 사용하여 사고 요약을 생성하고 내부 Slack 데이터로 이를 보강합니다. 여기서 응답자는 세부 사항을 논의하고 문제 해결 업데이트를 공유하여 요약의 품질을 개선합니다. .

RAG가 복잡해 보일 수 있지만 LangChain 라이브러리는 개발자에게 RAG를 구현하고 정교한 질문 답변 시스템을 구축하는 데 필요한 도구를 제공합니다. (대부분의 경우 시작하려면 한 줄의 코드만 있으면 됩니다.) LangChain은 외부 데이터 소스에 대한 액세스를 제공하거나 다른 애플리케이션의 기존 API에 연결하여 런타임 시 LLM의 성능을 강화하고 향상시킬 수 있는 강력한 라이브러리입니다.