Sebastien Rousseau

TOPIC

Generative AI at malalaking language model

Mga foundation model, multimodal na malalaking language model (Gemini, Gemma, Mistral, MM1), prompt engineering, at ang mga open-source na paglabas na humuhubog sa maitatayo ng mga bangko sa loob ng sarili nilang perimetro ng datos.

Articles in this topic

Three-dimensional statistical learning manifold and lattice: Foundations of Machine Learning, PAC learning, Rademacher complexity and VC-dimension.
AI · Pananaliksik · Inobasyon

Talaan ng nilalaman ng aklat sa machine learning: ano ang sinasabi

· Sebastien Rousseau

Binibigyang-kahulugan ng ikalawang edisyon ng Foundations of Machine Learning ang pagkatuto bilang paggamit ng karanasan upang makagawa ng tumpak na prediksiyon, at bumubuo ito ng buong kurikulum sa paligid ng mga sukat na nagpapasya kung gagana ito: datos,...

Concentric glowing three-dimensional light spheres: exact asymptotic decay rate of the Cohn-Elkies sphere-packing linear programming bound.
AI · Matematika · Pananaliksik

Panloob na modelo ng OpenAI, tiniyak ang decay rate ng Cohn-Elkies

· Sebastien Rousseau

Saklaw ng koleksiyon ng mga resulta mula sa isang panloob na modelo ng OpenAI ang matematika at teoretikal na computer science, at eksakto ang pinakamatalas nitong resulta: kilala na ngayon ang asymptotic na lakas ng Cohn-Elkies linear program...

Matrix of floating-point numerical probabilities: Binoculars token cross-perplexity LLM text detection across 44 benchmarks.
AI · Generative AI · LLM

Detektor na bumabasa ng probabilidad, hindi hatol: Jev sa 44 benchmark

· Sebastien Rousseau

Isang detektor ng alignment failure na sumasagot ng maraming may-uring tanong sa iisang tawag, gamit ang kalibradong probabilidad, ang mahusay magranggo ng mga failure at 63× na mas mura kaysa sa mga LLM-judge scorer. Pero hindi naililipat ang mga probabilidad na iyon...

A man analysing data on screens
Prompt Engineering · ChainOfThought · ZeroShot

AI Prompt Engineering 2024: Mga Teknik na Gumagana

· Sebastien Rousseau

Inaayos ng prompt engineering ang input ng LLM sa inference time — nang hindi kailangang i-update ang mga timbang. Sinasaklaw ng artikulong ito ang mga teknik na napatunayan sa 2024: zero-shot task framing (Brown et al., 2020), chain-of-thought reasoning (Wei et al., 2022), self-consistency sampling (Wang et al., 2022), ReAct agent loops (Yao et al., 2022), indirect prompt injection risk (Greshake et al., 2023), at mga inilapat na RAG pattern mula sa financial services.

Abstract neural network visualisation in blue and purple tones representing AI processing
Generative AI · LLM · GPT 4

Generative AI noong 2023: Paano Ito Gumagana, Saan Ito Nalalapat

· Sebastien Rousseau

Lumipat ang generative AI mula sa pananaliksik patungo sa produksyon noong 2023. Ipinakita ng GPT-4, Claude 2, Llama 2, at Mistral na kaya ng mga large language model na pangasiwaan ang pagsusuri ng legal na dokumento, paglikha ng code, at diyalogo ng customer sa kalidad na katumbas ng tao — na nagdulot ng agarang mga tanong sa pamamahala tungkol sa hallucination, data leakage, at pagsunod sa regulasyon sa mga serbisyong pinansyal.