Ollama: chatGPT chạy trên máy của bạn

Khám phá thế giới Trí tuệ Nhân tạo với công cụ mã nguồn mở như Ollama, mang đến linh hoạt và tùy chỉnh không giới hạn. Tận hưởng ứng dụng trí tuệ nhân tạo một cách dễ dàng và hiệu quả trên máy tính của bạn!

Ollama: chatGPT chạy trên máy của bạn
Photo by Brett Jordan / Unsplash

Trong thời đại công nghệ ngày nay, sự bùng nổ của trí tuệ nhân tạo đã mở ra không gian rộng lớn cho sự đổi mới và sáng tạo. Nếu các công cụ như ChatGPT và Bard đã trở nên quen thuộc trong cuộc sống hàng ngày, thì không thể phủ nhận sức hút của các công cụ mã nguồn mở như Llama và Ollama.

Ưu điểm của một công cụ mã nguồn mở là bạn hoàn toàn có thể tự tinh chỉnh để nó phù hợp với nhu cầu dùng của cá nhân mình mà không bị hạn chế. Không những thế nó còn mở ra một cơ hội rất lớn cho những doanh nghiệp có mong muốn tích hợp AI vào những sản phẩm của mình nhưng muốn khả năng tuỳ chỉnh để sử dụng những công cụ đó hiệu quả hơn.

Được xây dựng dựa trên llama.cpp, Ollama cho phép bạn chạy LLM ngay trên máy tính của bạn, không những thế nó còn có REST API dựa trên API của OpenAI cho phép bạn có thể xây dựng ứng dụng có tích hợp trí tuệ nhân tạo một cách hết sức dễ dàng.

Yêu cầu

Mặc dù đã được tối ưu hoá để có thể chạy được trên nhiều cấu hình khác nhau nhưng để mang đến hiệu quả tốt nhất thì bạn nên chạy trên máy có ít nhất 8GB ram cho model 3B. Và riêng cho hệ điều hành MacOS nhà phát triển khuyên dùng các máy dùng dòng chip M trở lên (M1, M2, ...)

Cách cài đặt

Ollama hiện hỗ trợ tất cả các nền tảng như MacOS, Linux, riêng Windows thì bạn có thể chạy trên WSL. Trong bài này mình sẽ hướng dẫn bạn cài đặt trên hệ điều hành MacOS.

  • Tải Ollama.

Để tải Ollama bạn hãy truy cập đường link sau ollama.ai. Sau đó ấn vào nút Download rồi chọn hệ điều hành của bạn.
Screenshot 2023-12-13 at 11.05.24 AM.png

  • Cài đặt Ollama

Cài đặt dựa theo hướng dẫn được hiển thị trên màn hình. Sau đó bạn sẽ thấy logo Ollama trên thanh công cụ, điều đó có nghĩa là bạn đã cài đặt thành công!

Cách sử dụng.

Mở terminal của bạn lên và gõ:

ollama run llama2

Sau khi chạy lệnh này Ollama sẽ tự động tải Llama2 về máy của bạn nếu bạn chưa có.

Hiện tại Ollama hỗ trợ rất nhiều model khác nhau để biết thêm chi tiết về các model đó bạn có thể tham khảo tại đây. Và để chạy các model đó bạn chỉ cần đổi tên.

ollama run orca-mini

Tóm tắt

Với chỉ ba bước đơn giản, bạn đã sẵn sàng khám phá thế giới của trí tuệ nhân tạo một cách không giới hạn. Hãy để Ollama là người bạn đồng hành đáng tin cậy trên hành trình của bạn vào thế giới mới này.