A videó lényege
A videó bemutatja a kontextusmenedzsment fogalmát, vagyis hogy milyen keretek és információk mentén dolgozik hatékonyan az AI, és miért kulcsfontosságú ez a magas minőségű eredményekhez.
- A context window (kontextusablak) a session teljes beolvasott tartalma, ami tokenben mérhető és korlátozott
- Minél telítettebb a session, annál lassabb és pontatlanabb lesz az AI válasza – érdemes 20-40%-nál újrakezdeni
- A context fragmentek (tartalomtöredékek) minőségi, releváns információforrások, amiket létre kell hozni és karban kell tartani
- A scraping az a folyamat, amivel külső, magas minőségű tudást gyűjtünk be és alakítunk context fragmenté
- A context engineering egy kialakuló szakma, amely módszertant ad a kontextus egészének kezelésére és optimalizálására