Hubungkan model AI untuk proyek machine learning Anda

Model Ledger memungkinkan Anda memilih bagaimana agen berkomunikasi dengan model bahasa. Anda dapat memilih penyedia cloud melalui endpoint API standar, menjalankan model secara lokal di PC Anda, atau menggunakan model bawaan. Pilihan ini memengaruhi privasi dan kecepatan.

Pilih sumber model

Penyedia AI cloud

Gunakan penyedia AI cloud melalui endpoint API standar. Prompt dan konten file Anda akan dikirim keluar dari komputer. Anda memilih penyedia mana yang digunakan dan membayar penggunaannya. Agen hanya mengirim data ke endpoint tersebut.

Model lokal di PC

Jalankan model langsung di PC Anda. Ini menjaga semua data Anda tetap di dalam komputer. Prompt dan konten file tidak pernah keluar dari mesin. Ini ideal untuk proyek sensitif atau aturan privasi yang ketat. Anda mengelola file model dan sumber daya perangkat keras sendiri.

Model bawaan

Model bawaan tersedia sebagai pilihan.

Uji koneksi Anda

Tekan tombol Uji untuk memeriksa endpoint. Alat ini menampilkan waktu respons dan ukuran jendela konteks.

Pilih model yang tepat untuk tugasnya

Gunakan model yang lebih besar untuk refaktor atau logika kompleks. Gunakan model yang lebih kecil untuk pengeditan kecil. Alat run_on_model mengirim langkah sulit ke model yang lebih besar.

Kualitas bervariasi antar model dan pengaturan. Selalu tinjau diff sebelum menerima perubahan. Gunakan Ask first untuk jeda sebelum setiap tindakan yang mengubah sesuatu. Anda melihat perubahan file secara detail dan dapat memutuskan apakah itu benar.