Sebastien Rousseau

TOPIC

AI เชิงสร้างสรรค์และโมเดลภาษาขนาดใหญ่

โมเดลพื้นฐาน โมเดลภาษาขนาดใหญ่แบบหลายรูปแบบ (Gemini, Gemma, Mistral, MM1) วิศวกรรมพรอมต์ และการเผยแพร่โอเพนซอร์สที่กำหนดว่าธนาคารสร้างอะไรได้บ้างภายในขอบเขตข้อมูลของตนเอง

Articles in this topic

Cryptographic hardware and binary patterns illustrating NIST ECDSA elliptic curve seeds, lrand48 PRNG states and AI cryptanalysis.
ความมั่นคงปลอดภัยไซเบอร์ · วิทยาการรหัสลับ · AI

ค่า Seed ปริศนาเบื้องหลังเส้นโค้งของ NIST ไม่เคยเป็นค่าแฮช และ Claude ค้นพบความจริงในเวลาไม่ถึงครึ่งชั่วโมง

· Sebastien Rousseau

ค่า Seed ที่เผยแพร่พร้อมกับเส้นโค้ง NIST P-192, P-224, P-256, P-384 และ P-521 ไม่เคยเป็นผลลัพธ์จากการแฮช แต่มาจากตัวสร้าง lrand48 ของไลบรารีภาษา C ที่ตั้งค่าเริ่มต้นด้วยเวลา Unix timestamp โดย Claude ไขปริศนานี้...

Abstract geometric light structures representing mathematical progression-free sets, Fourier analysis and AI-assisted proof discovery.
AI · Generative AI · LLM

การรุกคืบของ AI ต่อเซตปลอดลำดับเลขคณิต: บัญชีรายการของสิ่งที่ติดขัด

· Sebastien Rousseau

ผู้ช่วย AI ได้ทำงานในสองปัญหาเกี่ยวกับเซตปลอดลำดับเลขคณิต: ข้อโต้แย้งสำหรับปัญหาผลรวมส่วนกลับ และขอบเขตควาซิพหุนามสำหรับทุกความยาวลำดับที่คงที่ โดยใช้ผลลัพธ์ของ Bloom และ...

Three-dimensional statistical learning manifold and lattice: Foundations of Machine Learning, PAC learning, Rademacher complexity and VC-dimension.
AI · การวิจัย · นวัตกรรม

สารบัญตำราแมชชีนเลิร์นนิง บอกอะไรเกี่ยวกับสาขานี้

· Sebastien Rousseau

Foundations of Machine Learning ฉบับพิมพ์ครั้งที่สองนิยามการเรียนรู้ว่าเป็นการใช้ประสบการณ์เพื่อทำนายอย่างแม่นยำ แล้วสร้างหลักสูตรทั้งหมดขึ้นรอบปริมาณที่ตัดสินว่ามันจะได้ผลหรือไม่ ได้แก่ ข้อมูล...

Concentric glowing three-dimensional light spheres: exact asymptotic decay rate of the Cohn-Elkies sphere-packing linear programming bound.
AI · การวิจัย · วิทยาการรหัสลับ

การบรรจุทรงกลม Cohn-Elkies: โมเดลภายใน OpenAI ระบุอัตราการลดลงแน่ชัด

· Sebastien Rousseau

ชุดผลลัพธ์จากโมเดลภายในของ OpenAI ครอบคลุมคณิตศาสตร์และวิทยาการคอมพิวเตอร์เชิงทฤษฎี และผลลัพธ์ที่คมที่สุดของมันแม่นยำ ความแข็งแกร่งเชิงเส้นกำกับของโปรแกรมเชิงเส้น Cohn-Elkies เป็นที่รู้แล้ว...

Matrix of floating-point numerical probabilities: Binoculars token cross-perplexity LLM text detection across 44 benchmarks.
AI · AI เชิงสร้างสรรค์ · LLM

ตัวตรวจจับที่อ่านความน่าจะเป็นแทนคำตัดสิน: Jev บน 44 เบนช์มาร์ก

· Sebastien Rousseau

ตัวตรวจจับความล้มเหลวด้าน alignment ที่ตอบคำถามแบบมีชนิดได้หลายข้อในการเรียกครั้งเดียวพร้อมความน่าจะเป็นที่ปรับเทียบแล้ว จัดอันดับความล้มเหลวได้ดี และมีต้นทุนต่ำกว่าผู้ให้คะแนนแบบ LLM-judge ถึง 63× แต่ความน่าจะเป็นเหล่านั้น...

Abstract visualisation of AI networks, representing Gemini 1.5's capabilities
Gemini 1.5 · Google AI · ประสิทธิภาพ AI

ปลดล็อก Gemini 1.5: อธิบายก้าวสำคัญด้าน AI ของ Google

· Sebastien Rousseau

Gemini 1.5 สร้างขึ้นบนสถาปัตยกรรม Mixture of Experts (MoE) เวอร์ชันใหม่ ซึ่งเพิ่มความสามารถในการเลือกกระตุ้นเส้นทางที่เกี่ยวข้องมากที่สุดในโครงข่ายประสาทเทียม การพัฒนานี้…

A man analysing data on screens
วิศวกรรม Prompt · ChainOfThought · ZeroShot

วิศวกรรม Prompt สำหรับ AI ปี 2024: เทคนิคที่ใช้ได้จริง

· Sebastien Rousseau

วิศวกรรม prompt จัดโครงสร้างอินพุตของ LLM ที่เวลาอนุมาน โดยไม่ต้องปรับปรุงน้ำหนักของโมเดล บทความนี้ครอบคลุมเทคนิคที่พิสูจน์แล้วว่าเชื่อถือได้ในปี 2024 ได้แก่ การกำหนดกรอบงานแบบ zero-shot (Brown et al., 2020), การให้เหตุผลแบบ chain-of-thought (Wei et al., 2022), การสุ่มตัวอย่างแบบ self-consistency (Wang et al., 2022), ลูปเอเจนต์ ReAct (Yao et al., 2022), ความเสี่ยงจาก indirect prompt injection (Greshake et al., 2023) และรูปแบบ RAG ที่ใช้งานจริงจากบริการทางการเงิน

Abstract neural network visualisation in blue and purple tones representing AI processing
Generative AI · LLM · GPT 4

Generative AI ในปี 2023: กลไกการทำงานและจุดที่นำไปใช้ก่อน

· Sebastien Rousseau

Generative AI ก้าวจากความสนใจในเชิงวิจัยไปสู่การใช้งานจริงในการผลิตในปี 2023 GPT-4, Claude 2, Llama 2 และ Mistral แสดงให้เห็นว่าโมเดลภาษาขนาดใหญ่สามารถจัดการการตรวจทานเอกสารกฎหมาย การสร้างโค้ด และบทสนทนากับลูกค้าได้ในคุณภาพเทียบเท่ามนุษย์ ซึ่งก่อให้เกิดคำถามด้านธรรมาภิบาลโดยทันทีเกี่ยวกับการหลอน การรั่วไหลของข้อมูล และการปฏิบัติตามกฎเกณฑ์ในบริการทางการเงิน