Àkàndé: ఎగ్జిక్యూటివ్‌ల కోసం GPT-ఆధారిత వాయిస్ అసిస్టెంట్

TL;DR. Àkàndé అనేది ఓపెన్-సోర్స్ Python వాయిస్ అసిస్టెంట్, ఇది OpenAI Whisper స్పీచ్ రికగ్నిషన్, GPT-4 చాట్ కంప్లీషన్‌లు, మరియు స్థానిక SQLite రెస్పాన్స్ కాష్‌ను ఒక వాయిస్-ఆధారిత వర్క్‌ఫ్లోలోకి చైన్ చేస్తుంది - సంభాషణ చరిత్ర నుండి PDF సారాంశాలను రూపొందిస్తూ, నిల్వ చేసిన మొత్తం డేటాను స్థానికంగా ఉంచుతుంది.

Points clés

పైప్‌లైన్ అవలోకనం. ఒక్క Àkàndé ఇంటరాక్షన్ ఈ క్రమాన్ని అనుసరిస్తుంది:.
OpenAI ఏకీకరణ: చాట్ కంప్లీషన్‌లు మరియు Whisper. స్పీచ్ రికగ్నిషన్ మరియు టెక్స్ట్ జనరేషన్ రెండింటికీ Àkàndé openai Python SDKను ఉపయోగిస్తుంది.
SQLite రెస్పాన్స్ కాష్. కాష్ స్కీమా అత్యంత కనిష్టంగా ఉంటుంది:.
PDF సారాంశ రూపకల్పన. PDF ఎగుమతి fpdf2ను ఉపయోగిస్తుంది, ఇది బైనరీ డిపెండెన్సీలు లేని, నిర్వహించబడుతున్న Python PDF లైబ్రరీ:.

కార్యనిర్వాహక సారాంశం / ముఖ్యాంశాలు

Àkàndé ⧉ అనేది ఓపెన్-సోర్స్ Python వాయిస్ అసిస్టెంట్, ఇది OpenAI Whisper స్పీచ్-టు-టెక్స్ట్, GPT-4 చాట్ కంప్లీషన్‌లు, స్థానిక SQLite రెస్పాన్స్ కాష్, మరియు fpdf2 PDF ఎగుమతిని ఒకే వాయిస్-ఆధారిత వర్క్‌ఫ్లోలోకి చైన్ చేస్తుంది; దీనికి ఎటువంటి క్లౌడ్ నిల్వ కానీ స్థానిక AI మోడల్ వెయిట్‌లు కానీ అవసరం లేదు.

SQLite కాష్ సాధారణీకరించిన క్వెరీ స్ట్రింగ్‌ల SHA-256 హాష్‌లను ముడి API రెస్పాన్స్ టెక్స్ట్‌కు మ్యాప్ చేసి నిల్వ చేస్తుంది; కాష్ హిట్‌లకు జీరో టోకెన్‌లు ఖర్చవుతాయి మరియు 10 ms లోపు తిరిగి వస్తాయి, తద్వారా పునరావృత క్వెరీలు (సమావేశంలో ముందుగా తీసుకున్న నిర్ణయాన్ని సమీక్షించడం వంటివి) ముఖ్యంగా ఉచితమవుతాయి.

బహుళ-టర్న్ సంభాషణ మెమరీలో messages జాబితాను నిర్మించడం ద్వారా మరియు ప్రతి Chat Completions API కాల్‌పైనా దానిని పంపడం ద్వారా నిర్వహించబడుతుంది — మోడల్‌కు పూర్తి సెషన్ చరిత్ర అందుతుంది కాబట్టి ఇది ముందటి మార్పిడులను సూచించగలదు, అయితే ప్రతి టర్న్‌కూ టోకెన్ వినియోగం క్రమంగా పెరుగుతుంది.

PDF సారాంశ రూపకల్పన సెషన్ messages జాబితాను ఫార్మాట్ చేయబడిన fpdf2 డాక్యుమెంట్‌గా సీరియలైజ్ చేస్తుంది: వినియోగదారు టర్న్‌లు మరియు అసిస్టెంట్ టర్న్‌లు లేబుల్ చేయబడతాయి, టైమ్‌స్టాంప్‌లు చొప్పించబడతాయి, మరియు ఆటోమేటిక్ పేజినేషన్ ఏ పొడవు గల సెషన్‌లనైనా నిర్వహిస్తుంది; ఫైల్ స్థానిక ఫైల్‌సిస్టమ్‌కు వ్రాయబడుతుంది, అప్‌లోడ్ చేయబడదు.

గోప్యత సరిహద్దు: కేవలం లైవ్ క్వెరీ (మరియు కాంటెక్స్ట్ విండో పరిమితి వరకు సెషన్ చరిత్ర) మాత్రమే పరికరాన్ని విడిచిపెడుతుంది — ఎటువంటి ఆడియో రికార్డింగ్‌లు, ఎటువంటి ట్రాన్స్‌క్రిప్ట్‌లు, మరియు ఎటువంటి కాష్ చేయబడిన రెస్పాన్స్‌లు OpenAI యొక్క APIని మినహాయించి ఏ రిమోట్ సర్వీస్‌కూ పంపబడవు.

Àkàndé ⧉ అనేది మూడు కంపోజబుల్ కంపోనెంట్‌ల చుట్టూ నిర్మించబడిన ఓపెన్-సోర్స్ Python వాయిస్ అసిస్టెంట్: స్పీచ్ రికగ్నిషన్ కోసం OpenAI Whisper, భాషా అవగాహన మరియు జనరేషన్ కోసం GPT-4 Chat Completions API, మరియు రెస్పాన్స్ కాషింగ్ మరియు సెషన్ పెర్సిస్టెన్స్ కోసం స్థానిక SQLite డేటాబేస్. దీని ఫలితం స్థానిక మోడల్ వెయిట్‌లు, ఆఫ్‌లైన్ నిల్వ మౌలిక సదుపాయాలు, లేదా కంటైనర్ స్టాక్ లేకుండా ల్యాప్‌టాప్‌పై నడపగల వాయిస్-ఆధారిత వర్క్‌ఫ్లో.

ఈ వ్యాసం ప్రతి కంపోనెంట్ యొక్క సాంకేతిక ఆర్కిటెక్చర్, కాషింగ్ మరియు బహుళ-టర్న్ కాంటెక్స్ట్ చుట్టూ ఉన్న డిజైన్ నిర్ణయాలు, మరియు PDF ఎగుమతి పైప్‌లైన్‌ను వివరిస్తుంది.

పైప్‌లైన్ అవలోకనం

ఒక్క Àkàndé ఇంటరాక్షన్ ఈ క్రమాన్ని అనుసరిస్తుంది:

ఆడియో క్యాప్చర్ — వినియోగదారు మాట్లాడతారు; అప్లికేషన్ sounddevice లేదా అనుకూలమైన ఆడియో లైబ్రరీని ఉపయోగించి ఆడియోను తాత్కాలిక WAV ఫైల్‌కు రికార్డ్ చేస్తుంది.
స్పీచ్-టు-టెక్స్ట్ — WAV ఫైల్ openai.audio.transcriptions.create() (Whisper API)కు సమర్పించబడుతుంది; ట్రాన్స్‌క్రిప్ట్ ఒక ప్లెయిన్ స్ట్రింగ్‌గా తిరిగి ఇవ్వబడుతుంది.
కాష్ లుక్‌అప్ — ట్రాన్స్‌క్రిప్ట్ సాధారణీకరించబడుతుంది (లోయర్‌కేస్ చేయబడి, వైట్‌స్పేస్ కుదించబడి) మరియు SHA-256 హాష్ చేయబడుతుంది; ఆ హాష్ స్థానిక SQLite response_cache టేబుల్‌లో లుక్‌అప్ చేయబడుతుంది.
API కాల్ లేదా కాష్ హిట్ — మిస్ జరిగినప్పుడు, ట్రాన్స్‌క్రిప్ట్ సెషన్ messages జాబితాకు జోడించబడి openai.chat.completions.create()కు పంపబడుతుంది; రెస్పాన్స్ టెక్స్ట్ కాష్‌లో నిల్వ చేయబడుతుంది.
టెక్స్ట్-టు-స్పీచ్ — రెస్పాన్స్ టెక్స్ట్ openai.audio.speech.create() ఎండ్‌పాయింట్ (TTS) లేదా స్థానిక TTS లైబ్రరీని ఉపయోగించి ఆడియోగా మార్చబడి, తిరిగి ప్లే చేయబడుతుంది.
PDF ఎగుమతి (అవసరమైనప్పుడు) — పూర్తి messages జాబితా ఫార్మాట్ చేయబడిన fpdf2 డాక్యుమెంట్‌గా సీరియలైజ్ చేయబడి డిస్క్‌కు వ్రాయబడుతుంది.

OpenAI ఏకీకరణ: చాట్ కంప్లీషన్‌లు మరియు Whisper

స్పీచ్ రికగ్నిషన్ మరియు టెక్స్ట్ జనరేషన్ రెండింటికీ Àkàndé openai Python SDKను ఉపయోగిస్తుంది. Whisper ట్రాన్స్‌క్రిప్షన్ కాల్:

with open(audio_file_path, "rb") as f:
    transcript = openai.audio.transcriptions.create(
        model="whisper-1",
        file=f,
        language=None  # auto-detect
    )
user_text = transcript.text

Chat Completions కాల్ సెషన్-స్కోప్డ్ messages జాబితాను నిర్వహిస్తుంది:

messages.append({"role": "user", "content": user_text})

response = openai.chat.completions.create(
    model="gpt-4-turbo-preview",
    messages=messages,
    temperature=0.2,
    max_tokens=1024
)

assistant_text = response.choices[0].message.content
messages.append({"role": "assistant", "content": assistant_text})

సిస్టమ్ ప్రాంప్ట్ సెషన్ ప్రారంభంలో ఒకసారి ముందుగా జోడించబడుతుంది మరియు అది Àkàndé యొక్క వ్యక్తిత్వం, అవుట్‌పుట్ ఫార్మాట్, మరియు ఏవైనా డొమైన్-నిర్దిష్ట పరిమితులను నియంత్రిస్తుంది:

messages = [
    {
        "role": "system",
        "content": (
            "You are Àkàndé, a concise executive assistant. "
            "Respond in plain prose. Do not use markdown. "
            "If asked to summarise, produce three bullet points maximum."
        )
    }
]

temperature=0.2 సెట్ చేయడం సృజనాత్మక వైవిధ్యాన్ని నిర్ధారణాత్మకత కోసం మార్పిడి చేస్తుంది — సెషన్‌లో ముందుగా తీసుకున్న నిర్ణయాన్ని గుర్తుచేసుకోవడం వంటి వాస్తవిక క్వెరీలకు ఇది ముఖ్యం.

SQLite రెస్పాన్స్ కాష్

కాష్ స్కీమా అత్యంత కనిష్టంగా ఉంటుంది:

CREATE TABLE IF NOT EXISTS response_cache (
    query_hash  TEXT PRIMARY KEY,
    response    TEXT NOT NULL,
    created_at  INTEGER NOT NULL  -- Unix timestamp
);

లుక్‌అప్ మరియు రైట్ పాత్:

import hashlib, sqlite3, time

def _normalise(text: str) -> str:
    return " ".join(text.lower().split())

def cache_get(conn: sqlite3.Connection, query: str) -> str | None:
    h = hashlib.sha256(_normalise(query).encode()).hexdigest()
    row = conn.execute(
        "SELECT response FROM response_cache WHERE query_hash = ?", (h,)
    ).fetchone()
    return row[0] if row else None

def cache_set(conn: sqlite3.Connection, query: str, response: str) -> None:
    h = hashlib.sha256(_normalise(query).encode()).hexdigest()
    conn.execute(
        "INSERT OR REPLACE INTO response_cache VALUES (?, ?, ?)",
        (h, response, int(time.time()))
    )
    conn.commit()

మోడల్ అప్‌గ్రేడ్ తర్వాత అదే క్వెరీ సమర్పించబడితే, కాష్ చేయబడిన రెస్పాన్స్ నవీకరించబడేలా INSERT OR REPLACE నిర్ధారిస్తుంది. కాష్ పరిమాణాన్ని పరిమితం చేయడానికి TTL-ఆధారిత తొలగింపు క్వెరీని (DELETE WHERE created_at < ?) స్టార్టప్ సమయంలో షెడ్యూల్ చేయవచ్చు.

కాష్ హిట్ పనితీరు: స్థానిక SSDపై SQLite లుక్‌అప్ ~100,000 వరుసల వరకు గల టేబుల్స్‌కు 1 ms లోపు తిరిగి వస్తుంది. లైవ్ GPT-4 API కాల్‌కు రౌండ్-ట్రిప్ లేటెన్సీ చిన్న రెస్పాన్స్‌లకు సాధారణంగా 600–900 ms ఉంటుంది. కొన్ని పునరావృత క్వెరీలతో కూడిన రోజువారీ బ్రీఫింగ్‌కు, మొదటి సెషన్ తర్వాత కాష్ చాలావరకు API కాల్‌లను తొలగిస్తుంది.

PDF సారాంశ రూపకల్పన

PDF ఎగుమతి fpdf2ను ఉపయోగిస్తుంది, ఇది బైనరీ డిపెండెన్సీలు లేని, నిర్వహించబడుతున్న Python PDF లైబ్రరీ:

from fpdf import FPDF
from datetime import datetime

def export_session_pdf(messages: list[dict], output_path: str) -> None:
    pdf = FPDF()
    pdf.add_page()
    pdf.set_font("Helvetica", size=11)
    pdf.set_margins(20, 20, 20)

    pdf.set_font("Helvetica", "B", 14)
    pdf.cell(0, 10, f"Àkàndé Session — {datetime.now():%Y-%m-%d %H:%M}", ln=True)
    pdf.ln(4)

    for msg in messages:
        if msg["role"] == "system":
            continue
        label = "You" if msg["role"] == "user" else "Àkàndé"
        pdf.set_font("Helvetica", "B", 10)
        pdf.cell(0, 6, label, ln=True)
        pdf.set_font("Helvetica", size=10)
        pdf.multi_cell(0, 5, msg["content"])
        pdf.ln(3)

    pdf.output(output_path)

multi_cell() లైన్-ర్యాపింగ్ మరియు ఆటోమేటిక్ పేజ్ బ్రేక్‌లను నిర్వహిస్తుంది, తద్వారా ఏ పొడవు గల సెషన్‌లైనా మాన్యువల్ పేజినేషన్ లాజిక్ లేకుండా చక్కగా ఫార్మాట్ చేయబడిన డాక్యుమెంట్‌ను ఉత్పత్తి చేస్తాయి. అవుట్‌పుట్ ప్రామాణిక Helvetica మెట్రిక్‌లను మించి ఎంబెడ్ చేయబడిన ఫాంట్‌లు లేని PDF/A-అనుకూల ఫైల్.

గోప్యత నమూనా

Àkàndéలో గోప్యత సరిహద్దు మూడు వాస్తవాల ద్వారా నిర్వచించబడుతుంది:

ఆడియో HTTPS ద్వారా Whisper APIకు సమర్పించబడుతుంది మరియు API కాల్‌ను మించి OpenAI దానిని నిలుపుకోదు (ఫిబ్రవరి 2024 నాటికి OpenAI యొక్క API డేటా వినియోగ విధానం ప్రకారం).
Chat Completions API కాల్‌లు సెషన్ messages జాబితాను ప్రసారం చేస్తాయి — ఇది బహుళ-టర్న్ సెషన్‌లకు పూర్తి సంభాషణ చరిత్రను కలిగి ఉండవచ్చు.
SQLite డేటాబేస్ మరియు PDF ఫైల్‌లు పూర్తిగా స్థానిక ఫైల్‌సిస్టమ్‌పైనే ఉంటాయి; ఏ క్లౌడ్ సర్వీస్‌కూ బ్యాక్‌గ్రౌండ్ సింక్ జరగదు.

M&A చర్చలు, సిబ్బంది వ్యవహారాలు, నియంత్రణ వ్యూహం వంటి సున్నితమైన అంశాలతో కూడిన కార్యనిర్వాహక వినియోగ సందర్భాలకు, APIకి ప్రసారం చేయబడే సెషన్ చరిత్రను డిప్లాయ్‌మెంట్‌కు ముందు సంస్థ యొక్క AI వినియోగ విధానానికి వ్యతిరేకంగా సమీక్షించాలి. ఉద్దేశించిన బహిర్గత పరిధిని మించిన కాంటెక్స్ట్ అనుకోకుండా ప్రసారం కాకుండా నిరోధించడానికి సిస్టమ్ ప్రాంప్ట్‌పై max_tokens పరిమితిని ఉపయోగించవచ్చు.

తరచుగా అడిగే ప్రశ్నలు

సెషన్ ముగిసిన తర్వాత Àkàndé సంభాషణ చరిత్రను నిలుపుకుంటుందా? ప్రాసెస్ నిష్క్రమించినప్పుడు మెమరీలోని messages జాబితా విస్మరించబడుతుంది. వినియోగదారు PDF ఎగుమతిని ప్రేరేపిస్తేనే లేదా అనుకూల పెర్సిస్టెన్స్ లేయర్ జోడించబడితేనే సంభాషణ చరిత్ర నిలుపబడుతుంది. SQLite కాష్ క్వెరీ హాష్‌లు మరియు రెస్పాన్స్ టెక్స్ట్‌ను నిల్వ చేస్తుంది, పూర్తి సంభాషణ కాంటెక్స్ట్‌ను కాదు.

సమానంగా ఉన్నా ఒకేలా కాని క్వెరీలను కాష్ ఎలా నిర్వహిస్తుంది? కాష్ సాధారణీకరించిన క్వెరీ స్ట్రింగ్‌పై ఖచ్చిత-సరిపోలిక హాషింగ్‌ను ఉపయోగిస్తుంది. ఒక్క పదం భేదంతో ఉండే రెండు క్వెరీలు వేర్వేరు హాష్‌లను ఉత్పత్తి చేసి, వేర్వేరు API కాల్‌లకు దారితీస్తాయి. సెమాంటిక్ కాషింగ్ (సమీప-నకిలీ క్వెరీలను సరిపోల్చడానికి ఎంబెడింగ్ సారూప్యతను ఉపయోగించడం) కోసం అదనపు వెక్టర్ లుక్‌అప్ దశ అవసరం అవుతుంది మరియు అది ప్రాథమిక అమలులో భాగం కాదు.

Àkàndé డిఫాల్ట్‌గా ఏ GPT మోడల్‌ను ఉపయోగిస్తుంది? ఫిబ్రవరి 2024 నాటికి డిఫాల్ట్ gpt-4-turbo-preview. మోడల్ పేరు ఒక కాన్ఫిగరేషన్ పరామితి కాబట్టి, ఏ OpenAI చాట్ కంప్లీషన్ మోడల్‌నైనా భర్తీ చేయవచ్చు. gpt-3.5-turboకు మారడం ప్రతి టోకెన్‌కు API ఖర్చును సుమారు 20× తగ్గిస్తుంది కానీ సంక్లిష్టమైన బహుళ-దశల క్వెరీలకు రీజనింగ్ నాణ్యతను తగ్గిస్తుంది.

PDF ఎగుమతి ఫార్మాట్‌ను అనుకూలీకరించవచ్చా? అవును. fpdf2 ఎగుమతి ఫంక్షన్ messages జాబితాను దాని ఏకైక అవసరమైన ఇన్‌పుట్‌గా స్వీకరిస్తుంది కాబట్టి, ఫాంట్, మార్జిన్‌లు, పేజ్ సైజు, హెడర్ కంటెంట్, మరియు లేబులింగ్ అన్నింటినీ ఎగుమతి ఫంక్షన్‌ను ఎడిట్ చేయడం ద్వారా మార్చవచ్చు. fpdf2 చిత్రాలు, టేబుళ్లు, మరియు యూనికోడ్ ఫాంట్‌లను జోడించడాన్ని కూడా మద్దతిస్తుంది, తద్వారా నిర్దిష్ట బ్రాండింగ్ అవసరాలు గల సంస్థలకు సంపన్నమైన డాక్యుమెంట్ లేఅవుట్‌లను అనుమతిస్తుంది.

సూచనలు

OpenAI. Audio Transcriptions — Whisper API. OpenAI Platform Documentation, 2024. https://platform.openai.com/docs/api-reference/audio/createTranscription
OpenAI. Chat Completions API. OpenAI Platform Documentation, 2024. https://platform.openai.com/docs/api-reference/chat/create
Voss, J. et al. fpdf2: Modern PDF generation for Python. GitHub, 2024. https://github.com/py-pdf/fpdf2
SQLite Consortium. SQLite Documentation. sqlite.org, 2024. https://www.sqlite.org/docs.html

చివరిగా సమీక్షించబడింది 2026-07-17.

ఈ వ్యాసాన్ని పునఃప్రచురించండి

Àkàndé: ఎగ్జిక్యూటివ్‌ల కోసం GPT-ఆధారిత వాయిస్ అసిస్టెంట్ — Sebastien Rousseau

Àkàndé అనేది ఓపెన్-సోర్స్ Python వాయిస్ అసిస్టెంట్, ఇది OpenAI Whisper స్పీచ్ రికగ్నిషన్, GPT-4 చాట్ కంప్లీషన్‌లు, మరియు స్థానిక SQLite రెస్పాన్స్ కాష్‌ను ఒక వాయిస్-ఆధారిత వర్క్‌ఫ్లోలోకి చైన్ చేస్తుంది - సంభాషణ చరిత్ర నుండి PDF సారాంశాలను రూపొందిస్తూ, నిల్వ చేసిన మొత్తం డేటాను స్థానికంగా ఉంచుతుంది.

ఈ వ్యాసం కింది లైసెన్స్ కింద ఉంది Creative Commons Attribution 4.0 International. పునఃప్రచురణకు కానానికల్ URLకు ఆపాదన అవసరం.

Àkàndé: ఎగ్జిక్యూటివ్‌ల కోసం GPT-ఆధారిత వాయిస్ అసిస్టెంట్ — Sebastien Rousseau

Àkàndé అనేది ఓపెన్-సోర్స్ Python వాయిస్ అసిస్టెంట్, ఇది OpenAI Whisper స్పీచ్ రికగ్నిషన్, GPT-4 చాట్ కంప్లీషన్‌లు, మరియు స్థానిక SQLite రెస్పాన్స్ కాష్‌ను ఒక వాయిస్-ఆధారిత వర్క్‌ఫ్లోలోకి చైన్ చేస్తుంది - సంభాషణ చరిత్ర నుండి PDF సారాంశాలను రూపొందిస్తూ, నిల్వ చేసిన మొత్తం డేటాను స్థానికంగా ఉంచుతుంది.

Originally published at https://sebastienrousseau.com/te/2024-02-12-akande-voice-assistant-revolutionising-personal-and-executive-assistance/ by Sebastien Rousseau.
Licensed under CC-BY-4.0.

SEBASTIEN ROUSSEAU FOUNDER · ENGINEER