Mô hình khủng 12 tỷ tham số Stable LM 2 của Stability AI vừa ra mắt có gì hấp dẫn?
02/05/2024 02:06 am | Lượt xem : 776
Stability AI mới đây đã giới thiệu “tân binh” thiện chiến nhất trong bộ sưu tập mô hình ngôn ngữ Stable LM 2 của hãng, bao gồm một mô hình cơ sở 12 tỷ tham số và bản cập nhật cho mô hình 1,6 tỷ tham số (1.6B) trước đây. Cả hai đều được huấn luyện với 2 nghìn tỷ token trải dài trên 7 loại ngôn ngữ khác nhau: tiếng Anh, Tây Ban Nha, Đức, Ý, Pháp, Bồ Đào Nha, và Hà Lan.
Vậy mô hình Stable LM 2 mới của Stability AI có gì đáng chú ý? Hãy cùng Tenten.vn tìm hiểu tiếp!
Kiếm tiền cùng trí tuệ nhân tạo
Bạn sẽ học được gì?
|
 |
Contents
Stable LM 2 là gì?
Stable LM 2 là mô hình ngôn ngữ nhỏ gọn (LLM) được phát triển bởi Stability AI, ra mắt vào tháng 11 năm 2023. Nổi bật với kích thước nhỏ gọn chỉ 3 tỷ tham số, Stable LM 2 mang đến hiệu suất cao trong nhiều nhiệm vụ xử lý ngôn ngữ tự nhiên (NLP) như tạo văn bản, dịch ngôn ngữ, tóm tắt văn bản và trả lời câu hỏi.
Điểm mạnh của Stable LM 2 nằm ở khả năng hoạt động hiệu quả trên cả CPU và GPU, tiết kiệm chi phí tính toán và dễ dàng triển khai. Bên cạnh đó, mô hình được cung cấp thông qua API dễ sử dụng, mã nguồn mở và có mức giá cạnh tranh, phù hợp với nhiều đối tượng người dùng.
Từ khi ra mắt, Stable LM 2 đã được xem là một sản phẩm đầy tiềm năng, với nhiều ứng dụng rộng rãi trong các lĩnh vực như tạo nội dung, dịch thuật, tóm tắt văn bản, trả lời câu hỏi và xây dựng chatbot thông minh. Nhờ sự nhỏ gọn, hiệu quả và dễ sử dụng, Stable LM 2 trở thành lựa chọn hấp dẫn cho nhiều nhà phát triển và người dùng AI.
Chính vì vậy, mô hình Stable LM 2 mới với 12 tỷ tham số (12B) được đánh giá là một cú nhảy vọt về mặt công nghệ, hướng đến sự cân bằng giữa hiệu suất, tính hiệu quả, mức độ sử dụng bộ nhớ, và tốc độ thực thi. Nó bám sát framework từng được ứng dụng cho mô hình Stable LM 2 1.6B, từ đó mang lại cho người dùng nhiều sự lựa chọn hơn, với những công cụ mạnh mẽ và minh bạch hơn đáp ứng nhu cầu cải tiến với công nghệ ngôn ngữ AI.
Bên cạnh mô hình 12B, Stability cũng ra mắt phiên bản mới của mô hình Stable LM 2 1.6B, sở hữu nhiều cải tiến trong khả năng trò chuyện với người dùng bằng 7 ngôn ngữ mà vẫn đảm bảo yêu cầu cấu hình hệ thống vừa phải.
Những tính năng của Stable LM 2 12B
Stable LM 2 12B được thiết kế để ưu tiên tính hiệu quả trong thực hiện các tác vụ đa ngôn ngữ, đảm bảo hiệu suất mượt mà trên nhiều loại phần cứng hiện nay.
Theo Stability AI, mô hình này có thể đảm nhiệm những tác vụ mà thông thường chỉ dành cho các mô hình lớn hơn đáng kể, vốn đòi hỏi sức mạnh điện toán tương đối cao và tài nguyên bộ nhớ dồi dào, như Mixture-of-Experts (MoE). Trong khi đó, phiên bản 1.6B mới đã được tinh chỉnh để trở nên đa dụng hơn, phù hợp làm “đầu não” cho các hệ thống RAG do có hiệu suất sử dụng công cụ và gọi chức năng rất cao.
Trong bảng so sánh bên dưới, bạn có thể thấy tương quan giữa Stable LM 2 12B với các mô hình ngôn ngữ phổ biến khác như Mixtral, Llama2, Qwen 1.5, Gemma, và Mistral. Trong đó, Stable LM 2 12B cho kết quả ấn tượng khi thử nghiệm trên các tác vụ zero-shot và đa-shot:
Hiện tại, các nhà phát triển và doanh nghiệp đã có thể sử dụng Stable LM 2 12B cho các mục đích thương mại lẫn phi thương mại. Tất cả những gì họ cần là sở hữu một tài khoản thành viên của Stability AI.
Đăng ký sử dụng Stable LM 2 12B như thế nào?
Để sử dụng Stable LM 2 12B, bạn cần truy cập và sử dụng API của nó. Dưới đây là hướng dẫn chi tiết:
Tạo tài khoản Stability AI:
Truy cập trang web https://stability.ai/ và tạo tài khoản miễn phí.
Xác nhận email và hoàn tất hồ sơ cá nhân của bạn.
Nhận khóa API:
– Sau khi đăng nhập, truy cập trang “API” trong bảng điều khiển tài khoản của bạn.
– Nhấp vào nút “Tạo khóa API” để tạo khóa mới. Lưu ý khóa API được cung cấp, vì bạn sẽ cần nó để truy cập API.
Cài đặt thư viện:
Cài đặt thư viện https://pypi.org/project/stability-sdk/ cho ngôn ngữ lập trình bạn sử dụng (ví dụ: Python).
Gửi yêu cầu API:
Sử dụng thư viện Stability SDK, bạn có thể gửi yêu cầu API đến Stable LM 2 12B với các thông số sau:
“text”: Nội dung văn bản bạn muốn xử lý.
“model”: “stablelm2-12b” để sử dụng mô hình Stable LM 2 12B.
“temperature”: Tham số điều chỉnh độ sáng tạo của văn bản tạo ra (mặc định là 1.0).
“top_p”: Tham số điều chỉnh độ trôi chảy của văn bản tạo ra (mặc định là 0.9).
“response_length”: Số lượng từ tối đa trong phản hồi (mặc định là 100).
Xử lý kết quả:
API trả về kết quả dạng JSON, bao gồm:
“generated_text”: Văn bản được tạo ra bởi Stable LM 2 12B.
“logprobs”: Xác suất của từng từ trong văn bản tạo ra.
Ví dụ sử dụng Python:
import stabilitysdk
# Khởi tạo Stability SDK với khóa API của bạn
api = stabilitysdk.StabilityAPI(key=”YOUR_API_KEY”)
# Gửi yêu cầu API với nội dung văn bản
response = api.complete(text=”Chào bạn, tôi là Bard. Tôi có thể giúp gì cho bạn?”)
# In văn bản được tạo ra
print(response.generated_text)
Lưu ý:
– Bạn có thể tham khảo tài liệu chính thức của Stability SDK để biết thêm thông tin về các tham số và phương thức API.
– Stable LM 2 12B là mô hình tính phí. Bạn cần mua gói đăng ký để sử dụng nó cho mục đích thương mại.
Bằng cách làm theo hướng dẫn này, bạn có thể dễ dàng truy cập và sử dụng API của Stable LM 2 12B để thực hiện các tác vụ xử lý ngôn ngữ tự nhiên như tạo văn bản, dịch ngôn ngữ, tóm tắt văn bản và trả lời câu hỏi. Chúc các bạn thành công!
Kiếm tiền cùng trí tuệ nhân tạo
Bạn sẽ học được gì?
|
|
Bài liên quan
Tìm hiểu về mô hình ngôn ngữ thị giác Idefics2 vừa ra mắt
OpenAI ra mắt GPT Store, cho phép người dùng tạo trợ lý AI tùy chỉnh
Nhân bản giọng nói là gì? Tìm hiểu về AI nhân bản giọng nói OpenVoice
