DeepSeek, një startup relativisht i panjohur kinez i AI, ka dërguar valë tronditëse në Silicon Valley me lëshimin e tij të fundit të modeleve më të avancuara të AI.
Të zhvilluara me efikasitet të jashtëzakonshëm dhe të ofruara si burime me burim të hapur, këto modele sfidojnë dominimin e lojtarëve të njohur si OpenAI, Google dhe Meta, shkruan Forbes, transmeton Katror.info.
DeepSeek: Një yll në rritje
E themeluar në maj 2023 nga Liang Wenfeng, një figurë e shquar si në industrinë e fondit mbrojtës ashtu edhe në industrinë e AI, DeepSeek operon në mënyrë të pavarur, por financohet vetëm nga High-Flyer, një fond mbrojtës sasior i themeluar gjithashtu nga Wenfeng.
Mundesh me e lexu edhe…
Ky model unik financimi ka lejuar DeepSeek të ndjekë projekte ambicioze të AI pa presionin e investitorëve të jashtëm, duke u mundësuar atyre që t’i japin përparësi kërkimit dhe zhvillimit afatgjatë. Ekipi i DeepSeek përbëhet kryesisht nga të rinj, të diplomuar të talentuar nga universitetet më të mira kineze, duke nxitur një kulturë inovacioni dhe një kuptim të thellë të gjuhës dhe kulturës kineze.
Veçanërisht, praktikat e punësimit të kompanisë i japin përparësi aftësive teknike mbi përvojën tradicionale të punës, duke rezultuar në një ekip individësh shumë të aftë me një perspektivë të re për zhvillimin e AI.
Partneritetet Strategjike të DeepSeek
Suksesi i DeepSeek nuk i atribuohet vetëm përpjekjeve të brendshme të kompanisë. Ajo ka krijuar gjithashtu partneritete strategjike për të përmirësuar aftësitë teknologjike dhe shtrirjen në treg. Një bashkëpunim i rëndësishëm është ai me AMD, një ofrues kryesor i zgjidhjeve të fuqishme të përpunimit kompjuterik. DeepSeek përdor GPU-të AMD Instinct dhe softuerin ROCM në faza kyçe të zhvillimit të modeleve të saj, veçanërisht për DeepSeek-V3. Ky partneritet i mundëson kompanisë qasje në pajisje moderne dhe një ekosistem softuerësh të hapur, duke optimizuar performancën dhe shkallëzueshmërinë.
Teknikat Inovative të DeepSeek
Suksesi i DeepSeek mund t’i atribuohet disa inovacioneve kryesore: Mësimi me Përforcim (Reinforcement Learning) Në dallim nga metodat tradicionale që mbështeten kryesisht në trajnim të mbikëqyrur, DeepSeek përdor mësimin e pastër me përforcim (RL), që lejon modelet të mësojnë nëpërmjet provave dhe gabimeve dhe të përmirësohen përmes shpërblimeve algoritmike. Kjo qasje ka qenë veçanërisht efektive në zhvillimin e aftësive arsyetuese të DeepSeek-R1. Modelet e DeepSeek mësojnë duke ndërvepruar me mjedisin e tyre dhe duke marrë reagime për veprimet e tyre, ngjashëm me mënyrën si mësojnë njerëzit përmes përvojës. Kjo u mundëson atyre të zhvillojnë aftësi më të sofistikuara për të arsyetuar dhe për t’u përshtatur me situata të reja.
Arkitektura Mixture-of-Experts (MoE)
Modelet e DeepSeek përdorin një arkitekturë MoE, duke aktivizuar vetëm një pjesë të vogël të parametrave për një detyrë të caktuar. Ky aktivizim selektiv redukton ndjeshëm kostot kompjuterike dhe rrit efikasitetin. Mund ta imagjinoni si një ekip ekspertësh, ku për një detyrë të veçantë aktivizohen vetëm ata që janë të specializuar. Arkitektura MoE e DeepSeek funksionon në mënyrë të ngjashme, duke aktivizuar vetëm parametrat e nevojshëm për çdo detyrë, duke kursyer burime dhe duke përmirësuar performancën.
Vëmendja Latente me Shumë Krye (Multi-Head Latent Attention)
DeepSeek-V3 përfshin mekanizmin MLA, që përmirëson aftësinë e modelit për të procesuar të dhënat duke identifikuar marrëdhënie të nuancuara dhe duke trajtuar aspekte të ndryshme të inputit njëkohësisht. Është si të kesh disa “krye vëmendjeje” që fokusohen në pjesë të ndryshme të të dhënave, duke e bërë modelin të kapë një kuptim më të plotë të informacionit.
Ky mekanizëm përmirësues kontribuon në performancën mbresëlënëse të DeepSeek-V3 në teste të ndryshme. Distilimi (Distillation) DeepSeek përdor teknika distilimi për të transferuar njohuritë dhe aftësitë e modeleve më të mëdha te ato më të vogla dhe më efikase. Kjo bën që AI i fuqishëm të jetë i qasshëm për një gamë më të gjerë përdoruesish dhe pajisjesh. Është si një mësues që i transferon dijet një studenti, duke i mundësuar këtij të fundit të kryejë detyra me aftësi të ngjashme, por me më pak burime. Kjo qasje i bën modelet e DeepSeek më të përshtatshme dhe të qasshme.
Qasja me Kosto-Efikasitet të DeepSeek
Reduktimi i Kostove të Trajnimit Përdorimi i RL dhe arkitekturave efikase si MoE nga DeepSeek redukton ndjeshëm burimet kompjuterike të nevojshme për trajnim, duke ulur kostot. Për shembull, DeepSeek-V3 u trajnuar me një pjesë të kostos së modeleve të krahasueshme nga Meta. Çmime të Përballueshme për API Çmimet e API-së së DeepSeek janë dukshëm më të ulëta se ato të konkurrentëve, duke e bërë AI-në të qasshme për biznese të vogla dhe zhvillues me burime të kufizuara. Për shembull, API-ja e DeepSeek-R1 kushton vetëm $0.55 për një milion fjalë hyrëse dhe $2.19 për një milion fjalë dalëse, krahasuar me $15 dhe $60 të OpenAI-t.
Modeli me Burim të Hapur
Qasja me burim të hapur i DeepSeek eliminon tarifat e licencimit dhe promovon zhvillimin e bazuar në komunitet, duke ulur barrierat financiare dhe duke nxitur adoptimin e teknologjive të avancuara. Ndikimi në Peizazhin e AI Futja e DeepSeek në tregun e AI ka krijuar presion konkurrues mbi gjigantët si OpenAI, Google dhe Meta. Kjo konkurrencë ka të ngjarë të sjellë zgjidhje AI më të përballueshme dhe të qasshme për të gjithë. /Katror.info
Përgatiti:
