Pemahaman berbasis nol tentang prinsip kerja model bahasa besar (LLM) (13. Memori: Dari RAG ke Otak AI, bagaimana agen memiliki kemampuan kognitif jangka panjang?) – GuZhenYin

Karena modelnya tidak akan dan tidak bisa dilatih ulang untuk satu kali chat.

Oleh karena itu, LLM lebih seperti ensiklopedia pelatihan yang telah diselesaikan.

Daripada asisten pribadi yang mengenal Anda.

Sebab tugas sesungguhnya bukan hanya satu.

Misalnya, seorang pengguna mengatakan:

Namun Agen sejati harus mengetahui:

Maka rencana tersebut harus diberikan berdasarkan latar belakang sejarah.

Bedanya, LLM biasa hanya bisa dilakukan根据通用知识回答。

Inilah nilai sebenarnya dari Memori.

Banyak orang yang mengira Memory sebenarnya sama saja dengan menyimpan rekaman chat.

Tidak apa-apa jika Anda memahaminya seperti ini, tetapi sebenarnya ini adalah implementasi awal tingkat rendah.

Misalnya, simpan informasi berikut,

Informasi yang benar-benar berharga harus diperoleh dari interaksi antara banyak orang dan AI:

Jadi tujuan Memori bukan untuk menyimpan segala sesuatu di masa lalu.

LagiEkstrak informasi berharga dari masa lalu untuk membantu membuat keputusan di masa depan.

Sistem Agen Modern biasanya dapat dibagi menjadi tiga lapisan. (Tentu saja, setiap Agen dapat melakukannya secara berbeda)

Ini adalah memori paling dasar.

Misalnya percakapan saat ini:

Pada titik ini, AI mengetahui: “Tambahkan OAuth” menunjukkan antarmuka login saat ini.

Alasannya, pesan sejarah masih dalam konteks (konteks percakapan).

Namun, terdapat batasan yang jelas.

Karena jendela Konteks memiliki batasan ukuran.

Konteks ratusan ribu Token bahkan perkembangan jutaan Token masih tidak terbatas.

Jadi pada titik ini, kita memerlukan lapisan kedua.

Bertanggung jawab untuk menyimpan informasi yang sering digunakan dalam proses kerja Agen.

Misalnya, preferensi pengguna:

Status tugas yang berjalan saat ini:

Ini semua milik memori berjalan Agen itu sendiri.

Ini adalah arah pengembangan Agen di masa depan yang paling penting. (Arah baru pada tahun 2026)

Bertanggung jawab untuk mengelola dan memelihara grafik pengetahuan:

Ini bukan penyimpanan sederhana.

Sebaliknya, hal ini membentuk sistem pengetahuan yang terus berkembang.

Hubungan ketiganya dapat diringkas sebagai berikut:

Karena kita perlu menyimpan Memori Agen, kita menghadapi beberapa masalah: bagaimana cara menyimpannya secara lokal? Bagaimana cara mengambilnya kembali?

Misalkan kita memiliki informasi berikut di basis pengetahuan kita:

Namun pengguna bertanya:

Kata kunci di sini tidak termasuk “kumpulan koneksi”.

Tapi semantiknya dekat:MySQL连接池异常分析

Jika kita menggunakan database tradisional + SQL, kita cukup menulis pernyataan berikut:

Maka kemungkinan besar informasi yang relevan tidak akan ditemukan.

Sebenarnya, ini adalah pencarian dasar RAG yang disebutkan sebelumnya.

Namun RAG juga memiliki keterbatasannya sendiri.

Pertimbangkan bahwa dalam pengetahuan kita ada:

Hubungan antara informasi ini:

Baru saja menemukan beberapa teks yang relevan.

Ia tidak memahami hubungan antar entitas.

Inilah sebabnya mengapa Grafik Pengetahuan muncul.

Struktur inti grafik pengetahuan pada dasarnya adalah:实体+关系+属性

Misalnya:

GBrain terbaru oleh garrytanSistem manajemen pengetahuan pribadi sumber terbuka.

Faktanya, pada titik ini kita sudah bisa memahami arah yang ditunjukkan GBrain.

Posisi GBrain bukan sekadar “penyimpan rekaman percakapan”.

LagiBangun otak pengetahuan jangka panjang untuk Agen.

Ini menekankan:

• Akumulasi pengetahuan;
• hubungan entitas;
• pencarian hibrida;
• sintesis informasi;
• Pemeliharaan berkelanjutan.

Penulis proyek GBrain diposisikan sebagai Lapisan Otak Agen, digunakan untuk menghubungkan Agen seperti OpenClaw dan Hermes, dan membentuk sistem pengetahuan jangka panjang melalui halaman pengetahuan, koneksi hubungan, pengambilan Hibrid, dan metode lainnya.

RAG Tradisional:

Lebih mirip mesin pencari.

Otak adalah:

Basis pengetahuan RAG tradisional:

Masalahnya adalah pengetahuan, bukan pertumbuhan.

Otak adalah:

Misalnya,

Januari:医院 A 使用 SPD 版本 V2

Februari:医院 A 升级 V3

Informasi lama telah diubah.

Daripada dua jawaban sekaligus.

Ini juga merupakan perbedaan terbesar antara Agen AI dan sistem pencarian biasa.

Pada titik ini, kita dapat menebak dengan berani tentang memori perusahaan AI di masa depan:

tidak hanya menjadiLLM+RAG

Misalnya, Agen SPD rumah sakit:

pengguna:

Ia harus mengetahui:

Ini adalah penilaian berdasarkan pengalaman sejarah.

Kami yakin dapat memprediksi bahwa persaingan AI di masa depan tidak hanya terbatas pada model dengan parameter lain.

Karena pengetahuan dunia terbatas, setiap model hampir sepenuhnya dipahami (dilatih), dan kemampuan model akan semakin dekat.

Yang membedakannya adalah,Apakah Agen mempunyai Otaknya sendiri.

GPT yang sama, Claude, Qwen, sambungkan atau gunakan Otak yang berbeda.

Kinerja mungkin sangat bervariasi.

Di bab ini, kita akan mengenal AI Memory lagi.

Kami memperjelas poin-poin inti berikut ini:

1. LLM sendiri tidak memiliki memori jangka panjang. Ia hanya memiliki pengetahuan parameter yang diperoleh melalui pelatihan.

2. Memori Agen tidak menyimpan catatan obrolan. Ini tentang mengatur informasi penting.

3. Solusi RAG: “Temukan informasi yang relevan”.

4. Grafik Pengetahuan memecahkan: “Memahami hubungan informasi”.

5.AI Brain memecahkan: “Biarkan Agen terus mengumpulkan kognisi.”

Terakhir, rangkum dalam satu kalimat:LLM bertanggung jawab atas penalaran, Alat bertanggung jawab atas tindakan, Alur Kerja bertanggung jawab atas proses, dan Brain bertanggung jawab untuk memungkinkan AI memiliki masa lalu.