본문 바로가기 대메뉴 바로가기

    AI / DT 구축 사업

    watsonx

    멀티 모델 사용 환경 제공
    하이브리드 멀티 클라우드
    AI 라이프사이클 거버넌스
    오픈 기술 기반 확장성
    기업의 생성형 AI 적용 시 고려 사항

    멀티 모델

    • 설문조사 참여 기업 중 2/3가 멀티 LLM 모델 기반 서비스 제공 예정 응답
    • 다중 모델을 추구하는 기업의 60% 이상이 상용 및 오픈 소스 모델 함께 실험
    • 상용 및 오픈 소스 혁신
    • 모델보다 오래 지속될 사용 사례의 우선 순위를 신속하게 지정

    하이브리드 멀티 클라우드

    • Gartner는 대부분의 기업이 하이브리드 멀티 클라우드 환경에 생성형 AI 배포 전망
    • 워크플로, 애플리케이션 및 데이터 상주하는 위치에서 실행
    • 비즈니스가 실행되는 위치를 고려하여 성능, 비용, 단순성을 향상시킬 수 있도록 선택
    • 보안 이점을 강화하고 규정 준수를 고려한 위치 선택

    거버넌스

    • 최우선 요구사항이나 생성형 AI로 거버넌스가 어려워질거라 응답
    • 편향성, 공정성, 모델 드리프트 등을 모니터링하고 관리해야 함
    • 환각(hallucination)을 적극적으로 모니터링하고 모델 설명 가능성을 보장해야 함
    • 모델과 데이터 출처보장 프랙티스 및 도구 모색 필요

    가치를 위한 확장

    • 생성형 AI 투자 수익을 위해 올바른 사용 사례와 배포 선택이 중요
    • 업무에 따라 매우 긍정적이거나 부정적인 ROI 영향
    • 작업 가치에서 60포인트 이상의 차이
    • 모델 및 배포에 따라 추론 당 비용이 25배 차이

    데이터의 중요성

    • 생성형 AI는 데이터 품질, 액세스 및 보안 문제로 인해 운영환경에는 적용 어려움
    • 단기적으로는 모델 혁신이 가치를 창출
    • 장기적으로는 데이터 품질이 생성형 AI로 성공할 기업을 결정

    IBM watsonx.ai 는 AI 빌더를 위한 차세대 엔터프라이즈 스튜디오입니다. 기존 기계 학습과 기초 모델을 기반으로 하는 새로운 생성 AI 기능을 강력한 스튜디오로 결합하여 적은 양의 데이터로 단시간에 AI 애플리케이션을 구축할 수 있습니다.

    주요기능

    생성형 AI를 위한 특화된 스튜디오 : Foundation 모델 및 Generative AI 활용

    Foundation model Libraries : IBM 제공 + 오픈 소스 Foundation Model 제공

    Prompt Lab : 엔터프라이즈 사용과 검증을 위한 zero/few-shot prompting

    Tuning Studio : 엔터프라이즈 고유 데이타 기반 Foundation Model Tuning

    검증된 Machine Learning을 위한 스튜디오

    다양한 API, SDK 및 라이브러리 연결하여 개발부터 배포까지 전체 AI 모델 수명주기 통합 관리

    AI Builder API / SDK Toolkit

    GUI 또는 API를 통해 기업 애플리케이션에 모델 연계 및 활용을 지원하는 Workbench 및 도구 제공

    특장점

    멀티 LLM 호스팅을 위한 on-premise과 cloud를 모두 지원하는 서비스 플랫폼

    Granite V2 등 IBM 모델과 LLaMA2(메타), FLAN(구글) 등 다양한 오픈 소스 LLM 모델 및 BYOM(Bring Your Own Mode)을 동시에 빠르고 손쉽게 확인, 선택, 호스팅 가능

    혁신적인 개방형 플랫폼

    허깅페이스에서 제공되는 최신 SOTA(State of the art) LLM 모델을 수용

    소량의 데이터로 짧은 시간에 AI 애플리케이션을 구축

    수행 프롬프트를 Build, Refine 할 수 있는 쉬운 도구를 사용하여, 요구사항을 충족하고 원하는 결과를 도달하기 위한 모델 가이드 제공

    고객의 데이터로 모델을 Tuning 하며 데이터는 비공개로 안전하게 유지

    기대효과

    생성형 AI/ML 개발, 교육, 배포 및 관리을 통해 전체 AI 모델 수명 주기 지원

    고급 Prompt Tuning, SDK 및 API 라이브러리와 함께 Foundation Model 및 생성형 AI 서비스를 손쉽게 호스팅

    AI 모델을 훈련, 검증, 조정, 배포하기 위한 모든 도구와 런타임 통합 제공

    Auto AI, ML 코드 및 데이터 사이언스 툴과 오픈 소스 프레임워크, 도구 등 AI 빌더 통합

    주요사례

    생성형 AI 적용으로
    어시스턴트 품질 및 성능 개선

    생성형 AI로 편집 역량 강화

    AI를 활용해 채용 활성화

    IBM watsonx.data는 다양한 워크로드 커버리지와 최적의 가격 대비 성능을 위한 데이터 레이크하우스 아키텍처의 단일 통합 플랫폼으로, 데이터 웨어하우스와 데이터 레이크의 장점을 결합한 새로운 차원의 데이터 저장소입니다.

    주요기능

    비용이 많이 드는 클라우드 웨어하우스 최적화

    다양한 워크로드(Snowflake 및 유사한)를 최적화하여 목적에 맞는 쿼리 엔진과 컴퓨팅 리소스(Compute, Cache 최적화)를 활용하여 비용을 절감

    On-Prem 웨어하우스 최적화 및 액세스

    저비용 오브젝트 스토리지 및 목적에 맞는 엔진을 사용하여 온프레미스 워크로드 최적화

    데이터 레이크 현대화

    기존 기록 보고를 실행하고 Hadoop의 비용과 복잡성 없이 새로운 AI 워크로드를 지원

    하이브리드 클라우드와 멀티 클라우드에 배포

    10분 안에 퍼블릭 클라우드 배포 및 고객의 기존 온프레미스 환경에 원활하게 배포

    특장점

    클라우드와 온프레미스 환경을 아우르는 모든 데이터에 대한 단일 접점 액세스

    개방형 데이터 형식을 읽을 수 있는 도구 사용으로 단일 데이터 사본을 공유하여 데이터 중복 최소화

    원격 소스를 캐시하는 기능을 통해 하이브리드 클라우드에서 원격으로 데이터에 연결하고 데이터에 액세스

    내장된 거버넌스, 보안 및 자동화로 몇 분 만에 시작

    기존 분석 데이터에 연결하고 목적에 맞는 엔진을 몇 분 만에 배포

    데이터 생태계 전반에 내장된 중앙 집중식 거버넌스를 사용하여 기업 규정 준수 및 보안 문제 해결

    Foundation 모델을 사용하여 watsonx.data 데이터 및 메타데이터를 검색, 보강, 구체화 및 시각화

    다중 쿼리 엔진과 계층화된 스토리지를 통해 데이터 웨어하우스 비용을 절감

    Iceberg 데이터 형식과 저비용 오브젝트 스토리지를 활용하여 여러 엔진에서 액세스할 수 있는 공유 메타데이터 계층을 생성

    용도에 맞는 쿼리 엔진과 Compute와 Cache로 최적화된 인스턴스 사용

    기대효과

    클라우드 데이터 웨어하우스에서 워크로드를 실행하는 것과 비교하여 최대 비용 50% 절감

    개방형 데이터 형식과 저비용 오브젝트 스토리지 활용하여 유연한 데이터 엑세스

    용도에 맞는 쿼리 엔진을 사용하여 레이크하우스에서 다양한 워크로드 실행

    워크로드 요구 사항에 따라 자동으로 scale up/down되는 리소스로 인프라 활용 개선

    IBM watsonx.governance는 AI 거버넌스를 위한 엔드투엔드 툴킷으로 조직의 AI 활동을 지시, 관리 및 모니터링할 수 있습니다.  또한 소프트웨어 자동화를 사용하여 위험을 완화하고 규제 요구 사항을 관리하며 생성 AI 및 기계 학습(ML) 모델에 대한 윤리적 문제 해결 능력을 강화합니다.

    주요기능

    AI 정책 및 규제 준수 관리

    외부 AI 규제를 관리 가능한 정책으로 변환, 적용하고 자동화 된 규제 준수 관리 지원

    투명한 모델 프로세스를 위한 ‘FactSheet’ 사용

    신뢰성을 향상시키는 위험 관리 및 평판 보호

    미리 설정된 경고 임계값 기반 알림 및 대규모 위험 및 규정 준수 식별, 관리, 보고

    설명 가능한 모델 결과를 제공하여 감사 및 벌금 방지

    AI 라이프사이클 거버넌스

    AI 라이프사이클 전반에 걸쳐 모델 모니터링, 분류 및 제어

    모델 메타데이터 캡처를 자동화하여 관리 및 규정 준수를 용이하게 함

    동적 대시보드 및 다차원 보고를 통해 전체 조직의 모델 성능 감독

    특장점

    AI 거버넌스를 위한 강력한 엔드투엔드 툴킷 제공

    기업 별 거버넌스와 내/외부 감사에 모두 적용할 수 있는 자동화되고 확장 가능한 거버넌스, 위험 및 규정 준수 도구

    공정성, 편향성, 드리프트 및 새로운 LLM 메트릭을 모니터링하고 주요 지표 위반 시 알림으로 하여 위험 감지 및 완화 지원

    가시성 및 설명 가능한 AI를 위한 협업 도구와 동적 사용자 기반 대시보드, 차트 및 차원 보고서 제공

    전사적인 AI 거버넌스 통합 관리 플랫폼

    모든 종류의 LLM 모델과 ML 모델 통합 거버넌스 관리

    기대효과

    수동 작업 시 비용이 많이 드는 오류, 모델 수명 주기 지연 등 AI 거버넌스 활동 자동화와 프로세스 간소화

    최적화되지 않은 툴링 개선, 자동화 및 통합

    하이브리드 AI 전반에 걸친 단일 거버넌스 정책 및 워크플로우 세트 적용

    자동화 기반 조직 전반에 가시성 확보, 협업 툴, 사용자 지정 가능한 대시보드 및 보고서 제공으로 원활한 커뮤니케이션 및 협업 환경 제공

    주요사례

    AI 통합 관리

    AI의 효과적인 관리 및
    윤리적 사용 보장

    신뢰할 수 있는 AI 구현

    Watson Discovery는 데이터를 수집, 분석, 추출할 수 있는 완성형 텍스트 마이닝 솔루션으로 다양한 업무에서 다양한 형태의 비정형 데이터 및 컨텐츠를 수집하여 다각화된 분석을 수행하고 도출된 분석 결과를 시각화하여 적시에 인사이트를 제공합니다.

    주요기능

    자연어 처리 엔진

    IBM LanguageWare를 통해 텍스트 분석(NLP: Natural Language Processing)이 가능하며, 단순히 단어만 추출하지 않고, 상호관계, 의존도(Link) 등의 문맥을 기반으로 정보를 추출 및 마이닝 할 수 있는 컨텐츠 분석을 제공함

    텍스트 분석 기술

    텍스트 분석의 일반적인 방법으로 형태소 및 품사 분석 결과, 키워드 추출, 개체명 분석, 이벤트 분석의 n차례의 분석을 통해 원하는 패턴을 손쉽게 찾아줌

    사전, 룰, 기계학습 기반의 서비스 모델 생성/추가

    개발자 또는 사용자는 CAS1) or WKS2)를 통해서 사전과 룰의 생성/수정  빌드  검증 분석 등의 순환적인 라이프 사이클을 한 곳에서 진행할 수 있으며, 직관적인 Drag & Drop 형식으로 룰 관리를 지원함

    뿐만 아니라 문서 분류, SDU3), 관련성 학습 등의 기계 학습 모델이 기본 내장

    시각화, 분류 정확도 검증, 결과 export

    분석 결과를 트렌드, 상관관계, 패턴화하여 다양한 형태로 UI에 보여주고, 실험/대조군을 나누어 정확도를 검증하며, 다양한 형태로 분석 결과를 반출함

    특장점

    Default Facet

    Structed Data
    Facet

    Analyzed Facet

    사용자 편의성

    잠재된 인사이트 발견을 위한 강력한 마이닝 도구 제공

    인지 분석 검색 엔진 탑재

    개방형 아키텍쳐

    기대효과

    IBM WD는 고객관리 및 VOC, 금융, 법무, 준법감시, 인사, 설비 정비 이력, 리스크 관리 등 다양한 업무 전반에 걸쳐 활용이 가능함

    IBM WD를 활용하여 문장 기반의 텍스트를 분석 및 인사이트를 도출함으로써, 기존의 정형 분석에서는 발견되지 못했던 주요 문제점과 기업의 가치 창출의 동인을 분석할 수 있음

    지식 근로자 중 57%가 정보 찾기의 어려움이 생산성 저하의 주요 원인으로 인지하고 있으며, 실제 30%의 지식 근로자는 정보를 찾는데 시간을 소비함

    주요사례