Më 11 shtator 2026, OpenAI prezantoi Habitat — platformën e saj të brendshme të ruajtjes në internet për ChatGPT, OpenAI API, Codex dhe shërbimet e brendshme. Ajo mundëson qasje të shpejtë dhe të besueshme në të dhënat që janë të domosdoshme, veçanërisht për hyrjen në sistem, ngarkimin e cilësimeve të Codex dhe nisjen e bisedave në ChatGPT.
Habitat përpunon mbi 70 milionë kërkesa në sekondë dhe mbështet produkte që përdoren nga më shumë se 1 miliard njerëz në javë. Platforma operon në pothuajse 40 rajone dhe ruan mbi 500 PB të dhënash.
Sistemi ofron një shtresë të unifikuar aksesi për Azure Cosmos DB, cache-et Valkey, Blob Storage, Nanobase dhe sisteme të tjera ruajtjeje. Habitat është përgjegjës për rutimin, ruajtjen në cache, autorizimin, enkriptimin, izolimin e qiramarrësve (tenantëve), vendosjen e të dhënave dhe kufizimin e ngarkesës mbi komponentët e nivelit pasues.
Projekti filloi në vitin 2023 si një bibliotekë kliente në Python, e lidhur me Azure Cosmos DB. Më vonë, OpenAI e shndërroi atë në një shërbim të centralizuar. Kjo lehtësoi vendosjen në punë, monitorimin e sistemit, auditimin dhe zbatimin e politikave të sigurisë.
Habitat përdor një API të kufizuar NoSQL me objekte dhe lidhje, në vend të pyetjeve SQL të çfarëdoshme. Kjo qasje e bën ngarkesën më të parashikueshme dhe redukton rrezikun e pyetjeve të rënda që mund të mbingarkojnë ruajtësin online. Për pyetje komplekse, OpenAI përdor një paraqitje të veçantë offline të të dhënave në Rockset. Ndryshimet dërgohen aty përmes CDC pothuajse në kohë reale, ndaj ngarkesat analitike dhe ato të kërkimit mbahen të izoluara nga ruajtësi online.
Gjatë shkallëzimit të Habitat, OpenAI eliminoi vonesat e planifikuesit asyncio dhe disbalancën e lidhjeve në Python aiohttp, si dhe uli rrezikun e mbingarkesës së sistemeve bazë. Për këtë qëllim u përdorën: ripërdorimi i lidhjeve në modalitetin FIFO, Envoy, HTTP/2, multipleksimi, grupet e lidhjeve (connection pools), kufizimet dhe mekanizmat "circuit breaker".
Në kulmin e saj, versioni Python i Habitat përpunonte mbi 20 milionë kërkesa në sekondë. Ajo u bë shërbimi Envoy i dytë më i madh i OpenAI për sa i përket numrit të bërthamave të procesorit dhe i katërti për sa i përket shkallës.
Në tremujorin e dytë të vitit 2026, dy inxhinierë, me mbështetjen e Codex dhe GPT-5.5, e rishkruan Habitat nga Python në Rust. Në momentin e publikimit, versioni në Rust përpunonte 95% të kërkesave në mjedisin e prodhimit dhe e përdorte CPU-në gjashtë herë më efektivisht, ndërsa memorien 15 herë më efektivisht. Gjithashtu, ai siguronte vonesa mesatare dhe "tail latencies" (vonesa në percentilet e larta) më të ulëta. OpenAI planifikonte të hiqte dorë plotësisht nga versioni në Python brenda javëve në vijim.
Habitat mbetet një platformë infrastrukturore e brendshme e OpenAI. Kompania nuk ka bërë të ditur se ajo është e disponueshme si një produkt i veçantë publik.
Burimi: OpenAI
Comments
SHKRUAJ NJË KOMENT