Kết nối mô hình AI cho dự án machine learning của bạn

Model Ledger cho phép bạn chọn cách agent giao tiếp với mô hình ngôn ngữ. Bạn có thể chọn nhà cung cấp đám mây qua điểm cuối API tiêu chuẩn, chạy mô hình cục bộ trên PC hoặc dùng mô hình tích hợp. Lựa chọn này ảnh hưởng đến quyền riêng tư và tốc độ.

Chọn nguồn mô hình

Nhà cung cấp AI đám mây

Sử dụng nhà cung cấp AI đám mây qua điểm cuối API tiêu chuẩn. Prompt và nội dung tệp của bạn sẽ rời khỏi máy tính của bạn. Bạn kiểm soát việc chọn nhà cung cấp và trả phí cho việc sử dụng. Agent chỉ gửi dữ liệu đến điểm cuối cụ thể đó.

Mô hình chạy cục bộ

Chạy mô hình trực tiếp trên PC của bạn. Điều này giữ toàn bộ dữ liệu của bạn bên trong máy tính. Prompt và nội dung tệp của bạn không bao giờ rời khỏi máy. Đây là lựa chọn lý tưởng cho các dự án nhạy cảm hoặc tuân thủ quy tắc quyền riêng tư nghiêm ngặt. Bạn tự quản lý các tệp mô hình và tài nguyên phần cứng.

Mô hình tích hợp

Mô hình tích hợp có sẵn như một tùy chọn.

Kiểm tra kết nối

Nhấn nút Test để kiểm tra điểm cuối. Công cụ hiển thị thời gian phản hồi và kích thước cửa sổ ngữ cảnh.

Chọn mô hình phù hợp cho nhiệm vụ

Sử dụng mô hình lớn hơn để refactor hoặc xử lý logic phức tạp. Sử dụng mô hình nhỏ hơn cho các chỉnh sửa nhỏ. Công cụ run_on_model gửi các bước khó cho mô hình lớn hơn.

Chất lượng khác nhau giữa các mô hình và cài đặt. Luôn xem lại diff trước khi chấp nhận thay đổi. Sử dụng Ask first để tạm dừng trước mọi hành động thay đổi nội dung. Bạn thấy chính xác các thay đổi tệp và có thể quyết định xem chúng có đúng không.