Àkàndé: நிர்வாகிகளுக்கான GPT-இயங்கும் குரல் உதவியாளர்

TL;DR. Àkàndé என்பது OpenAI Whisper பேச்சு அறிதல், GPT-4 அரட்டை நிறைவுகள், மற்றும் உள்ளமை SQLite பதில் தேக்ககத்தை ஒரு குரல்-இயக்க பணிப்பாய்வாக இணைக்கும் ஒரு திறந்த மூல Python குரல் உதவியாளர் ஆகும் - உரையாடல் வரலாற்றிலிருந்து PDF சுருக்கங்களை உருவாக்கி, சேமிக்கப்பட்ட அனைத்து தரவையும் உள்ளமையாக வைத்திருக்கிறது.

முக்கிய கருத்துகள்

பணித்தொடர் மேலோட்டம். ஒரு தனித்த Àkàndé தொடர்பு இந்த வரிசையைப் பின்பற்றுகிறது:.
OpenAI ஒருங்கிணைப்பு: Chat Completions மற்றும் Whisper. பேச்சு அறிதல் மற்றும் உரை உருவாக்கம் ஆகிய இரண்டிற்கும் Àkàndé openai Python SDK-ஐப் பயன்படுத்துகிறது.
SQLite பதில் தேக்ககம். தேக்கக ஸ்கீமா குறைந்தபட்சமானது:.
PDF சுருக்க உருவாக்கம். PDF ஏற்றுமதி fpdf2-ஐப் பயன்படுத்துகிறது, இது இருமப் (binary) சார்புகள் இல்லாத ஒரு பராமரிக்கப்படும் Python PDF நூலகம்:.

நிர்வாகச் சுருக்கம் / முக்கிய குறிப்புகள்

Àkàndé ⧉ என்பது OpenAI Whisper பேச்சு-க்கு-உரை, GPT-4 அரட்டை நிறைவுகள், ஒரு உள்ளமை SQLite பதில் தேக்ககம், மற்றும் fpdf2 PDF ஏற்றுமதி ஆகியவற்றை ஒரு தனித்த குரல்-இயக்க பணிப்பாய்வாக இணைக்கும் ஒரு திறந்த மூல Python குரல் உதவியாளர் ஆகும் — இதற்கு எந்த மேக சேமிப்பகமும் தேவையில்லை, உள்ளமை AI மாதிரி எடைகளும் தேவையில்லை.

SQLite தேக்ககம் இயல்பாக்கப்பட்ட வினவல் சரங்களின் SHA-256 ஹாஷ்களை மூல API பதில் உரையுடன் இணைத்துச் சேமிக்கிறது; தேக்கக வெற்றிகள் (cache hits) பூஜ்ஜிய டோக்கன்களே செலவாகும், 10 ms-க்குள் திரும்பும், இதனால் மீண்டும் மீண்டும் கேட்கப்படும் வினவல்கள் (ஒரு கூட்டத்தில் முன்னதாக எடுக்கப்பட்ட ஒரு முடிவை மறுபரிசீலனை செய்வது போன்றவை) கிட்டத்தட்ட இலவசமாகின்றன.

பல-முறை உரையாடல் messages பட்டியலை நினைவகத்தில் கட்டமைத்து, ஒவ்வொரு Chat Completions API அழைப்பிலும் அதை அனுப்புவதன் மூலம் பராமரிக்கப்படுகிறது — மாதிரி முழு அமர்வு வரலாற்றையும் பெறுகிறது, இதனால் அது முந்தைய பரிமாற்றங்களைக் குறிப்பிட முடியும்; இதற்கான விலை ஒவ்வொரு முறையிலும் படிப்படியாக அதிகரிக்கும் டோக்கன் பயன்பாடு ஆகும்.

PDF சுருக்க உருவாக்கம் அமர்வின் messages பட்டியலை ஒரு வடிவமைக்கப்பட்ட fpdf2 ஆவணமாக வரிசைப்படுத்துகிறது: பயனர் முறைகளும் உதவியாளர் முறைகளும் பெயரிடப்படுகின்றன, நேர முத்திரைகள் செருகப்படுகின்றன, மற்றும் தானியங்கு பக்கமாக்கல் எந்த நீளமுள்ள அமர்வையும் கையாளுகிறது; கோப்பு உள்ளமை கோப்பு அமைப்பில் எழுதப்படுகிறது, பதிவேற்றப்படுவதில்லை.

தனியுரிமை எல்லை: நேரடி வினவல் மட்டுமே (மற்றும் சூழல் சாளர வரம்பு வரையிலான அமர்வு வரலாறு) சாதனத்தை விட்டு வெளியேறுகிறது — எந்த ஒலிப் பதிவுகளும், எந்த படியெடுப்புகளும், எந்த தேக்ககப்பட்ட பதில்களும் OpenAI-இன் API தவிர வேறு எந்த தொலைதூர சேவைக்கும் அனுப்பப்படுவதில்லை.

Àkàndé ⧉ என்பது மூன்று இணைக்கத்தக்க கூறுகளைச் சுற்றி கட்டமைக்கப்பட்ட ஒரு திறந்த மூல Python குரல் உதவியாளர் ஆகும்: பேச்சு அறிதலுக்கான OpenAI Whisper, மொழி புரிதல் மற்றும் உருவாக்கத்திற்கான GPT-4 Chat Completions API, மற்றும் பதில் தேக்ககம் மற்றும் அமர்வு நிலைத்தன்மைக்கான ஒரு உள்ளமை SQLite தரவுத்தளம். இதன் விளைவு, உள்ளமை மாதிரி எடைகள், ஆஃப்லைன் சேமிப்பக உள்கட்டமைப்பு, அல்லது ஒரு கண்டெய்னர் ஸ்டேக் இல்லாமல் ஒரு மடிக்கணினியில் இயக்கக்கூடிய ஒரு குரல்-இயக்க பணிப்பாய்வு ஆகும்.

இந்தக் கட்டுரை ஒவ்வொரு கூறின் தொழில்நுட்பக் கட்டமைப்பு, தேக்ககம் மற்றும் பல-முறை சூழலைச் சுற்றியுள்ள வடிவமைப்பு முடிவுகள், மற்றும் PDF ஏற்றுமதி பணித்தொடரை விவரிக்கிறது.

பணித்தொடர் மேலோட்டம்

ஒரு தனித்த Àkàndé தொடர்பு இந்த வரிசையைப் பின்பற்றுகிறது:

ஒலிப் பிடிப்பு — பயனர் பேசுகிறார்; பயன்பாடு sounddevice அல்லது ஒரு இணக்கமான ஒலி நூலகத்தைப் பயன்படுத்தி ஒரு தற்காலிக WAV கோப்பில் ஒலியைப் பதிவு செய்கிறது.
பேச்சு-க்கு-உரை — WAV கோப்பு openai.audio.transcriptions.create() (Whisper API)-க்கு சமர்ப்பிக்கப்படுகிறது; படியெடுப்பு ஒரு எளிய சரமாகத் திரும்பப் பெறப்படுகிறது.
தேக்கக தேடல் — படியெடுப்பு இயல்பாக்கப்பட்டு (சிறிய எழுத்துக்கு மாற்றப்பட்டு, வெற்றிடம் சுருக்கப்பட்டு) SHA-256 ஹாஷ் செய்யப்படுகிறது; ஹாஷ் உள்ளமை SQLite response_cache அட்டவணையில் தேடப்படுகிறது.
API அழைப்பு அல்லது தேக்கக வெற்றி — ஒரு தவறியில் (miss), படியெடுப்பு அமர்வின் messages பட்டியலில் இணைக்கப்பட்டு openai.chat.completions.create()-க்கு அனுப்பப்படுகிறது; பதில் உரை தேக்ககத்தில் சேமிக்கப்படுகிறது.
உரை-க்கு-பேச்சு — பதில் உரை openai.audio.speech.create() இறுதிப்புள்ளி (TTS) அல்லது ஒரு உள்ளமை TTS நூலகத்தைப் பயன்படுத்தி ஒலியாக மாற்றப்பட்டு, மீண்டும் இயக்கப்படுகிறது.
PDF ஏற்றுமதி (தேவைக்கேற்ப) — முழு messages பட்டியலும் ஒரு வடிவமைக்கப்பட்ட fpdf2 ஆவணமாக வரிசைப்படுத்தப்பட்டு வட்டில் எழுதப்படுகிறது.

OpenAI ஒருங்கிணைப்பு: Chat Completions மற்றும் Whisper

பேச்சு அறிதல் மற்றும் உரை உருவாக்கம் ஆகிய இரண்டிற்கும் Àkàndé openai Python SDK-ஐப் பயன்படுத்துகிறது. Whisper படியெடுப்பு அழைப்பு:

with open(audio_file_path, "rb") as f:
    transcript = openai.audio.transcriptions.create(
        model="whisper-1",
        file=f,
        language=None  # auto-detect
    )
user_text = transcript.text

Chat Completions அழைப்பு ஒரு அமர்வு-நோக்கமுள்ள messages பட்டியலைப் பராமரிக்கிறது:

messages.append({"role": "user", "content": user_text})

response = openai.chat.completions.create(
    model="gpt-4-turbo-preview",
    messages=messages,
    temperature=0.2,
    max_tokens=1024
)

assistant_text = response.choices[0].message.content
messages.append({"role": "assistant", "content": assistant_text})

கணினி வினவல் (system prompt) அமர்வின் தொடக்கத்தில் ஒருமுறை முன்னிணைக்கப்பட்டு, Àkàndé-இன் ஆளுமை, வெளியீட்டு வடிவம், மற்றும் எந்தவொரு களம்-சார்ந்த கட்டுப்பாடுகளையும் கட்டுப்படுத்துகிறது:

messages = [
    {
        "role": "system",
        "content": (
            "You are Àkàndé, a concise executive assistant. "
            "Respond in plain prose. Do not use markdown. "
            "If asked to summarise, produce three bullet points maximum."
        )
    }
]

temperature=0.2 என அமைப்பது படைப்பாற்றல் மாறுபாட்டைத் தீர்மானத்தன்மைக்காக ஈடுகொடுக்கிறது — அமர்வில் முன்னதாக எடுக்கப்பட்ட ஒரு முடிவை நினைவுகூர்வது போன்ற உண்மைச் சார்ந்த வினவல்களுக்கு இது முக்கியமானது.

SQLite பதில் தேக்ககம்

தேக்கக ஸ்கீமா குறைந்தபட்சமானது:

CREATE TABLE IF NOT EXISTS response_cache (
    query_hash  TEXT PRIMARY KEY,
    response    TEXT NOT NULL,
    created_at  INTEGER NOT NULL  -- Unix timestamp
);

தேடல் மற்றும் எழுதும் பாதை:

import hashlib, sqlite3, time

def _normalise(text: str) -> str:
    return " ".join(text.lower().split())

def cache_get(conn: sqlite3.Connection, query: str) -> str | None:
    h = hashlib.sha256(_normalise(query).encode()).hexdigest()
    row = conn.execute(
        "SELECT response FROM response_cache WHERE query_hash = ?", (h,)
    ).fetchone()
    return row[0] if row else None

def cache_set(conn: sqlite3.Connection, query: str, response: str) -> None:
    h = hashlib.sha256(_normalise(query).encode()).hexdigest()
    conn.execute(
        "INSERT OR REPLACE INTO response_cache VALUES (?, ?, ?)",
        (h, response, int(time.time()))
    )
    conn.commit()

INSERT OR REPLACE என்பது ஒரு மாதிரி மேம்படுத்தலுக்குப் பிறகு அதே வினவல் சமர்ப்பிக்கப்பட்டால் தேக்ககப்பட்ட பதில் புதுப்பிக்கப்படுவதை உறுதி செய்கிறது. தேக்கக அளவை வரம்பிட, ஒரு TTL-அடிப்படையிலான வெளியேற்ற வினவல் (DELETE WHERE created_at < ?) தொடக்கத்தில் திட்டமிடப்படலாம்.

தேக்கக வெற்றி செயல்திறன்: ஒரு உள்ளமை SSD-இல் ஒரு SQLite தேடல் ~100,000 வரிசைகள் வரையிலான அட்டவணைகளுக்கு 1 ms-க்குள் திரும்புகிறது. ஒரு நேரடி GPT-4 API அழைப்பின் இரு-வழி தாமதம் குறுகிய பதில்களுக்கு பொதுவாக 600–900 ms ஆகும். சில மீண்டும் மீண்டும் கேட்கப்படும் வினவல்களைக் கொண்ட ஒரு தினசரி சுருக்கத்திற்கு, முதல் அமர்விற்குப் பிறகு தேக்ககம் பெரும்பாலான API அழைப்புகளை அகற்றுகிறது.

PDF சுருக்க உருவாக்கம்

PDF ஏற்றுமதி fpdf2-ஐப் பயன்படுத்துகிறது, இது இருமப் (binary) சார்புகள் இல்லாத ஒரு பராமரிக்கப்படும் Python PDF நூலகம்:

from fpdf import FPDF
from datetime import datetime

def export_session_pdf(messages: list[dict], output_path: str) -> None:
    pdf = FPDF()
    pdf.add_page()
    pdf.set_font("Helvetica", size=11)
    pdf.set_margins(20, 20, 20)

    pdf.set_font("Helvetica", "B", 14)
    pdf.cell(0, 10, f"Àkàndé Session — {datetime.now():%Y-%m-%d %H:%M}", ln=True)
    pdf.ln(4)

    for msg in messages:
        if msg["role"] == "system":
            continue
        label = "You" if msg["role"] == "user" else "Àkàndé"
        pdf.set_font("Helvetica", "B", 10)
        pdf.cell(0, 6, label, ln=True)
        pdf.set_font("Helvetica", size=10)
        pdf.multi_cell(0, 5, msg["content"])
        pdf.ln(3)

    pdf.output(output_path)

multi_cell() வரி-மடிப்பு மற்றும் தானியங்கு பக்க முறிவுகளைக் கையாளுகிறது, எனவே எந்த நீளமுள்ள அமர்வுகளும் கைமுறை பக்கமாக்கல் தர்க்கம் இல்லாமல் நன்கு வடிவமைக்கப்பட்ட ஆவணத்தை உருவாக்குகின்றன. வெளியீடு ஒரு PDF/A-இணக்கமான கோப்பாகும், இதில் நிலையான Helvetica அளவீடுகளைத் தவிர வேறு எந்த உட்பொதிக்கப்பட்ட எழுத்துருக்களும் இல்லை.

தனியுரிமை மாதிரி

Àkàndé-இல் தனியுரிமை எல்லை மூன்று உண்மைகளால் வரையறுக்கப்படுகிறது:

ஒலி HTTPS வழியாக Whisper API-க்கு சமர்ப்பிக்கப்படுகிறது, மற்றும் API அழைப்பிற்கு அப்பால் OpenAI-ஆல் தக்கவைக்கப்படுவதில்லை (பிப்ரவரி 2024 நிலவரப்படி OpenAI-இன் API தரவு பயன்பாட்டுக் கொள்கையின் படி).
Chat Completions API அழைப்புகள் அமர்வின் messages பட்டியலை அனுப்புகின்றன — இது பல-முறை அமர்வுகளுக்கு முழு உரையாடல் வரலாற்றையும் கொண்டிருக்கலாம்.
SQLite தரவுத்தளமும் PDF கோப்புகளும் முழுவதுமாக உள்ளமை கோப்பு அமைப்பில் வாழ்கின்றன; எந்த மேக சேவைக்கும் பின்னணி ஒத்திசைவு எதுவும் நிகழ்வதில்லை.

M&A விவாதங்கள், பணியாளர் விவகாரங்கள், ஒழுங்குமுறை உத்தி போன்ற முக்கியமான தலைப்புகளை உள்ளடக்கிய நிர்வாகப் பயன்பாட்டு வழக்குகளுக்கு, API-க்கு அனுப்பப்படும் அமர்வு வரலாறு, பயன்படுத்துவதற்கு முன் நிறுவனத்தின் AI பயன்பாட்டுக் கொள்கைக்கு எதிராக மறுபரிசீலனை செய்யப்பட வேண்டும். கணினி வினவலின் மீதான max_tokens வரம்பை, நோக்கப்பட்ட வெளிப்படுத்தல் நோக்கத்தை மீறும் சூழலின் தற்செயலான பரிமாற்றத்தைத் தடுக்கப் பயன்படுத்தலாம்.

அடிக்கடி கேட்கப்படும் கேள்விகள்

அமர்வு முடிந்த பிறகு Àkàndé உரையாடல் வரலாற்றைத் தக்கவைக்குமா? செயல்முறை வெளியேறும்போது நினைவகத்தில் உள்ள messages பட்டியல் நிராகரிக்கப்படுகிறது. பயனர் ஒரு PDF ஏற்றுமதியைத் தூண்டினால் அல்லது ஒரு தனிப்பயன் நிலைத்தன்மை அடுக்கு சேர்க்கப்பட்டால் மட்டுமே உரையாடல் வரலாறு தக்கவைக்கப்படுகிறது. SQLite தேக்ககம் வினவல் ஹாஷ்களையும் பதில் உரையையும் சேமிக்கிறது, முழு உரையாடல் சூழலை அல்ல.

ஒத்திருக்கும் ஆனால் ஒரே மாதிரி இல்லாத வினவல்களை தேக்ககம் எவ்வாறு கையாளுகிறது? தேக்ககம் இயல்பாக்கப்பட்ட வினவல் சரத்தின் மீது சரியான-பொருத்த ஹாஷிங்கைப் பயன்படுத்துகிறது. ஒரே ஒரு சொல்லால் வேறுபடும் இரண்டு வினவல்கள் வேறுபட்ட ஹாஷ்களை உருவாக்கி தனித்தனி API அழைப்புகளில் விளையும். சொற்பொருள் தேக்ககம் (சமீபத்திய-நகல் வினவல்களைப் பொருத்த உட்பொதிப்பு ஒற்றுமையைப் பயன்படுத்துவது) ஒரு கூடுதல் வெக்டர் தேடல் படியைத் தேவைப்படுத்தும், மற்றும் இது அடிப்படை செயல்படுத்தலின் பகுதி அல்ல.

Àkàndé இயல்பாக எந்த GPT மாதிரியைப் பயன்படுத்துகிறது? பிப்ரவரி 2024 நிலவரப்படி இயல்புநிலை gpt-4-turbo-preview ஆகும். மாதிரியின் பெயர் ஒரு உள்ளமைவு அளவுரு, எனவே எந்தவொரு OpenAI அரட்டை நிறைவு மாதிரியையும் மாற்றீடு செய்யலாம். gpt-3.5-turbo-க்கு மாறுவது ஒரு டோக்கனுக்கான API செலவை சுமார் 20× குறைக்கிறது, ஆனால் சிக்கலான பல-படி வினவல்களுக்கான பகுத்தறிவுத் தரத்தைக் குறைக்கிறது.

PDF ஏற்றுமதி வடிவத்தைத் தனிப்பயனாக்க முடியுமா? ஆம். fpdf2 ஏற்றுமதி செயல்பாடு messages பட்டியலை அதன் ஒரே தேவையான உள்ளீடாக ஏற்கிறது, எனவே எழுத்துரு, விளிம்புகள், பக்க அளவு, தலைப்பு உள்ளடக்கம், மற்றும் பெயரிடல் அனைத்தையும் ஏற்றுமதி செயல்பாட்டைத் திருத்துவதன் மூலம் மாற்றலாம். fpdf2 படங்கள், அட்டவணைகள், மற்றும் Unicode எழுத்துருக்களைச் சேர்ப்பதையும் ஆதரிக்கிறது, இது குறிப்பிட்ட பிராண்டிங் தேவைகளைக் கொண்ட நிறுவனங்களுக்கு வளமான ஆவண அமைப்புகளை அனுமதிக்கிறது.

குறிப்புகள்

OpenAI. Audio Transcriptions — Whisper API. OpenAI Platform Documentation, 2024. https://platform.openai.com/docs/api-reference/audio/createTranscription
OpenAI. Chat Completions API. OpenAI Platform Documentation, 2024. https://platform.openai.com/docs/api-reference/chat/create
Voss, J. et al. fpdf2: Modern PDF generation for Python. GitHub, 2024. https://github.com/py-pdf/fpdf2
SQLite Consortium. SQLite Documentation. sqlite.org, 2024. https://www.sqlite.org/docs.html

கடைசியாக மதிப்பாய்வு செய்யப்பட்டது 2026-07-17.

இந்தக் கட்டுரையை மறுபிரசுரம் செய்யுங்கள்

Àkàndé: நிர்வாகிகளுக்கான GPT-இயங்கும் குரல் உதவியாளர் — Sebastien Rousseau

Àkàndé என்பது OpenAI Whisper பேச்சு அறிதல், GPT-4 அரட்டை நிறைவுகள், மற்றும் உள்ளமை SQLite பதில் தேக்ககத்தை ஒரு குரல்-இயக்க பணிப்பாய்வாக இணைக்கும் ஒரு திறந்த மூல Python குரல் உதவியாளர் ஆகும் - உரையாடல் வரலாற்றிலிருந்து PDF சுருக்கங்களை உருவாக்கி, சேமிக்கப்பட்ட அனைத்து தரவையும் உள்ளமையாக வைத்திருக்கிறது.

இந்தக் கட்டுரை பின்வரும் உரிமத்தின் கீழ் வழங்கப்படுகிறது Creative Commons Attribution 4.0 International. மறுபிரசுரத்திற்கு நியமன URL-க்கு காரணப்பொறுப்பு தேவை.

Àkàndé: நிர்வாகிகளுக்கான GPT-இயங்கும் குரல் உதவியாளர் — Sebastien Rousseau

Àkàndé என்பது OpenAI Whisper பேச்சு அறிதல், GPT-4 அரட்டை நிறைவுகள், மற்றும் உள்ளமை SQLite பதில் தேக்ககத்தை ஒரு குரல்-இயக்க பணிப்பாய்வாக இணைக்கும் ஒரு திறந்த மூல Python குரல் உதவியாளர் ஆகும் - உரையாடல் வரலாற்றிலிருந்து PDF சுருக்கங்களை உருவாக்கி, சேமிக்கப்பட்ட அனைத்து தரவையும் உள்ளமையாக வைத்திருக்கிறது.

Originally published at https://sebastienrousseau.com/ta/2024-02-12-akande-voice-assistant-revolutionising-personal-and-executive-assistance/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER