Sebastien Rousseau

AI

LLM

Large language models in financial workflows — fine-tuning, RAG, prompt engineering, on-device LLMs, and inference cost economics.

10 articles

APPLIED AI

Detektor na bumabasa ng probabilidad, hindi hatol: Jev sa 44 benchmark

Isang detektor ng alignment failure na sumasagot ng maraming may-uring tanong sa iisang tawag, gamit ang kalibradong probabilidad, ang mahusay magranggo ng mga failure at 63× na mas mura kaysa sa mga LLM-judge scorer. Pero hindi naililipat ang mga probabilidad na iyon...

APPLIED AI

AI Prompt Engineering 2024: Mga Teknik na Gumagana

Inaayos ng prompt engineering ang input ng LLM sa inference time — nang hindi kailangang i-update ang mga timbang. Sinasaklaw ng artikulong ito ang mga teknik na napatunayan sa 2024: zero-shot task framing (Brown et al., 2020), chain-of-thought reasoning (Wei et al., 2022), self-consistency sampling (Wang et al., 2022), ReAct agent loops (Yao et al., 2022), indirect prompt injection risk (Greshake et al., 2023), at mga inilapat na RAG pattern mula sa financial services.

APPLIED AI

Generative AI noong 2023: Paano Ito Gumagana, Saan Ito Nalalapat

Lumipat ang generative AI mula sa pananaliksik patungo sa produksyon noong 2023. Ipinakita ng GPT-4, Claude 2, Llama 2, at Mistral na kaya ng mga large language model na pangasiwaan ang pagsusuri ng legal na dokumento, paglikha ng code, at diyalogo ng customer sa kalidad na katumbas ng tao — na nagdulot ng agarang mga tanong sa pamamahala tungkol sa hallucination, data leakage, at pagsunod sa regulasyon sa mga serbisyong pinansyal.