IBM gần đây đã ra mắt “Lightweight Engine” mới cho dịch vụ WatsonX.ai của mình. Mặc dù chủ yếu nhắm đến các doanh nghiệp lớn, công cụ này có thể đóng vai trò như một cầu nối để triển khai AI tạo sinh an toàn, tại chỗ cho các doanh nghiệp nhỏ đang tìm cách mở rộng hoặc các công ty tầm trung trong các ngành công nghiệp đang phát triển như fintech.
Thị trường AI tạo sinh, không thể phủ nhận, là động lực chính thúc đẩy tăng trưởng doanh thu của ngành công nghệ trong nửa đầu năm 2024. Chỉ mười năm trước, ít ai có thể dự đoán được quy mô và phạm vi của một lĩnh vực phần lớn được thúc đẩy bởi sự bùng nổ của các mô hình ngôn ngữ lớn như ChatGPT của OpenAI và Claude của Anthropic.
AI tạo sinh trong dịch vụ tài chính
Trước khi ChatGPT ra mắt, các chuyên gia trong cộng đồng AI và tài chính đã ghi nhận rằng các mô hình ngôn ngữ lớn như GPT-3 đơn giản là không đáng tin cậy hoặc chính xác đủ để sử dụng trong thế giới tài chính hoặc bất kỳ nơi nào khác mà không có chỗ cho sai sót.
Bất chấp những tiến bộ trong lĩnh vực này kể từ khi ChatGPT ra mắt năm 2023, câu ngạn ngữ trên vẫn đúng: các mô hình AI được đào tạo cho mục đích chung, trên dữ liệu công khai, vẫn không thể dự đoán được như thông tin mà chúng được đào tạo. Để một mô hình AI tạo sinh có thể làm được nhiều hơn chỉ là chatbot thực hiện một số chức năng mã hóa, các mô hình cần được chuyên biệt hóa.
Chẳng hạn, JP Morgan Chase gần đây đã mua quyền truy cập doanh nghiệp vào ChatGPT của OpenAI cho toàn bộ 60.000 nhân viên của mình, bao gồm việc tinh chỉnh trên dữ liệu nội bộ và các biện pháp bảo vệ tùy chỉnh. Rõ ràng là ngay cả ngành dịch vụ tài chính cũng đang nhảy lên con tàu AI tạo sinh.
Vượt ra ngoài chatbot
Trong khi nhiều dịch vụ AI công khai phổ biến như ChatGPT cung cấp các tùy chọn cấp doanh nghiệp, chúng thường hoàn toàn dựa trên đám mây. Trong các ngành công nghiệp mà các nghĩa vụ quy định và ủy thác yêu cầu các loại dữ liệu nhất định phải được cách ly khỏi khả năng bị thao túng từ bên ngoài, chẳng hạn như các ngành fintech và dịch vụ tài chính, các giải pháp AI dựa trên đám mây có thể không đáp ứng yêu cầu về bảo mật.
WatsonX.ai của IBM hoạt động với cả giải pháp dựa trên đám mây và tại chỗ, và với sự bổ sung của Lightweight Engine, các mô hình có thể được chạy và triển khai tại chỗ với mức tiêu thụ tài nguyên giảm.
Cointelegraph đã hỏi IBM về các ứng dụng của dịch vụ này và Savio Rodrigues, Phó Chủ tịch Kỹ thuật Hệ sinh thái & Định hướng Nhà phát triển của công ty cho biết:
“Khi các doanh nghiệp thêm triển khai tại chỗ, họ muốn một nền tảng nhẹ nhất cho doanh nghiệp để triển khai và chạy các trường hợp sử dụng AI tạo sinh của mình, để không lãng phí CPU hoặc GPU. Đây là nơi mà Lightweight Engine phát huy tác dụng, cho phép các nhà cung cấp phần mềm độc lập (ISV) và các nhà phát triển mở rộng giải pháp GenAI của doanh nghiệp đồng thời tối ưu hóa chi phí.”
Trong fintech và các ngành công nghiệp đang phát triển khác – chẳng hạn như khai thác, blockchain và cho vay crypto – nơi mà các giải pháp AI ngoài site có thể không phù hợp với tất cả các nhu cầu bảo mật của một công ty, sự linh hoạt của một giải pháp có khả năng hoạt động cả trên đám mây và tại chỗ có thể tạo ra sự khác biệt giữa việc phát triển và triển khai các mô hình nội bộ hoặc đăng ký giải pháp của một công ty khác.
Tuy nhiên, có một số dịch vụ cạnh tranh từ các công ty như Microsoft, Google, Amazon, và thậm chí các startup tập trung vào việc xây dựng các giải pháp AI tùy chỉnh cũng cung cấp các dịch vụ tương tự.
Mặc dù việc so sánh trực tiếp các dịch vụ nằm ngoài phạm vi của bài viết này, Lightweight Engine của IBM dường như đúng với tên gọi của nó. Dấu chân tài nguyên nhỏ hơn và hiệu suất cao hơn đạt được nhờ loại bỏ một số tính năng chỉ có trong phiên bản đầy đủ.