Hoe om DeepSeek R1 op u rekenaar te installeer met AMD Ryzen AI en Radeon GPU

Thiago Almeida Avatar
In hierdie handleiding sal jy leer hoe om DeepSeek R1-gedistilleerde modelle op jou rekenaar met AMD Ryzen AI en Radeon GPU te installeer en te gebruik. Check dit uit!

O DeepSeek dit is 'n inteligência kunsmatig wat uitstekende prestasie met baie lae ontwikkelingskoste beloof. In die laaste paar dae was daar nie sprake van iets anders nie. Trouens, die groot toonaangewende maatskappye in hierdie mark het 'n groot knou gekry vir die prys van hul produkte. aksies. Nou, kom ons kyk daarna Hoe om DeepSeek R1 en gebruik dit op jou rekenaar met behulp van die platform AMD.

Wat is redenasiemodelle?

Redenerende modelle em inteligência kunsmatig is benaderings wat gebruik word om hulle in staat te stel om besluite op 'n outomatiese wyse te neem gebaseer op data en voorafbepaalde reëls. Hierdie modelle poog om menslike denke te simuleer, sodat KI's kognitiewe vermoëns soos beplanning, besluitneming en komplekse probleemoplossing kan hê.

Die verskil tussen DeepSeek R1 redenasiemodel, is dat dit in kleiner modelle met hoë kapasiteit gedistilleer is. Hierdie modelle is klein genoeg om op tuishardeware te werk, sonder dat groot verwerkingsklusters nodig is. Op hierdie manier, wanneer jy 'n bestelling plaas om R1, slegs die model wat in die onderwerp gespesialiseer is, sal gebruik word.

Installasie vereistes

Om die DeepSeek R1, moet jy een van die verwerker- of GPU-modelle hieronder hê, benewens die installering van die nodige sagteware.

Hardware:

verwerkerDeepSeek R1 Distiller* (maks. ondersteun)
AMD Ryzen™ AI Max+ 395 32GB 1 , 64 GB 2 en 128 GBDeepSeek-R1-Distill-Llama-70B (slegs 64GB en 128GB)
DeepSeek-R1-Distilleer-Qwen-32B
AMD Ryzen™ AI HX 370 en 365 24GB en 32GBDeepSeek-R1-Distilleer-Qwen-14B
AMD Ryzen™ 8040 en Ryzen™ 7040 32GBDeepSeek-R1-Distilleer-Llama-14B

*= AMD beveel aan dat alle distillasies teen Q4 KM-kwantisering uitgevoer word.
1 = Vereis veranderlike grafiese geheue gestel op Custom: 24 GB.  

2 = Vereis veranderlike grafiese geheue gestel op Hoog.

Grafiese kaartDeepSeek R1 Distiller* (maks. ondersteun) 1 )
AMD Radeon™ RX 7900 XTX-videokaartDeepSeek-R1-Distilleer-Qwen-32B
AMD Radeon™ RX 7900 XT videokaartDeepSeek-R1-Distilleer-Qwen-14B
AMD Radeon™ RX 7900 GREDeepSeek-R1-Distilleer-Qwen-14B
AMD Radeon™ RX 7800 XT videokaartDeepSeek-R1-Distilleer-Qwen-14B
AMD Radeon™ RX 7700 XT videokaartDeepSeek-R1-Distilleer-Qwen-14B
AMD Radeon™ RX 7600 XT videokaartDeepSeek-R1-Distilleer-Qwen-14B
AMD Radeon™ RX 7600-videokaartDeepSeek-R1-Distilleer-Llama-8B

*= AMD beveel aan dat alle distillasies teen Q4 KM-kwantisering uitgevoer word.

1 = Lys die maksimum distillaat wat ondersteun word sonder gedeeltelike GPU-aflaai. 

sagteware:

  • Opsionele Adrenalien 25.1.1 Bestuurder of hoër
  • LM Studio 0.3.8 of hoër

Stap vir stap

Stap 01: Maak seker jy gebruik die opsionele Adrenalien 25.1.1 of hoër bestuurder. Dit kan direk geïnstalleer word Aqui.

Stap 02: Laai LM Studio 0.3.8 of hoër af hier aan.

Stap 03: Installeer LM Studio en slaan die integrasieskerm oor.

LM-tuisskerm na installasie, wat wys hoe om aan boord oor te slaan deur op skip by boarding in die regter boonste hoek te klik. Hoe om deepseek r1 te installeer
Slaan integrasie in LM Studio oor na installasie, deur Thiago Almeida

Stap 04: Klik op die ontdek-oortjie.

lm ateljeeskerm wat wys waar die ontdek-knoppie is
Klik op Ontdek, deur Thiago Almeida

Stap 05: Gaan nou na die soekkassie en tik diepsoek r1. Verskeie opsies sal verskyn, maar maak seker dat u die model kies wat geskik is vir u hardeware volgens die tabel hierbo beskikbaar, in "Installasievereistes". Aan die regterkant, maak seker dat "Q4 KM" kwantisering gekies is en klik aflaai.

Skerm vertoon soektog en keuse van geskikte deepseek r1 model vir aflaai.
DeepSeek R1 model keuse, deur Thiago Almeida

Stap 06: Nadat die modelaflaai voltooi is, maak die aflaaivenster toe, die kennisgewingblokkie wat jou inlig dat die model afgelaai is, en die ontdekkingsvenster wat ons in die vorige stap gebruik het om die model af te laai.

Stap 07: Kies nou die sjabloon op die kletsskerm DeepSeek R1 en maak seker dat jy die opsie om parameters te kies, handmatig gekontroleer laat.

Skerm wys die keuse van die deepseek r1 model in die lm studio chat
Kies die DeepSeek R1-model in die LM Studio-klets, deur Thiago Almeida
Die beeld vertoon die skerm met die deepseek r1 model wat reeds gekies is vir laai in die lm studio chat.
DeepSeek R1 seleksie in LM Studio chat, deur Thiago Almeida

Stap 08: Onder GPU Aflaai, skuif na maksimum grootte, merk "onthou instellings" om die instellings vir hierdie model te stoor, en klik "Laai model".

Die beeld vertoon die skerm met die maksimum lasparameterisering vir die gpu.
Kies die maksimum las vir die GPU, deur Thiago Almeida.

Goed, nou met die model gelaai, kan ons plaaslik daarmee op ons eie rekenaar interaksie hê.

Hieronder is die video wat deur die maatskappy self vrygestel is. AMD met die stap vir stap.

testes

In ons toetsing het ons begin deur 'n paar basiese vrae aan die DeepSeek R1, soos "Wat is die vierkantswortel van 1024?". Na 3.67 sekondes se dink, het hy die volgende resultaat opgelewer:


Om die vierkantswortel van te vind 1024, volg die volgende stappe:

  1. Verstaan ​​die konsep van vierkantswortel: Die vierkantswortel van 'n getal is 'n ander getal wat, vermenigvuldig met homself, die oorspronklike getal tot gevolg het. Dws:
    [
    \sqrt{x} = y \quad \text{if and only if} \quad y^2 = x
    ]
  2. Pas die stappe toe om die vierkantswortel van 1024 te bereken:
    • Identifiseer 'n heelgetal wat, wanneer dit met homself vermenigvuldig word, lei tot 1024.
    • Probeer opeenvolgende heelgetalle totdat jy die een vind wat aan die voorwaarde voldoen: [30^2 = 900 \quad (\text{minder as } 1024)][31^2 = 961 \quad (\text{minder as } 1024)][32^2 = 1024 \quad (\text{ presies} )]
  3. gevolgtrekking: Die vierkantswortel van 1024 is: [\sqrt{1024} = 32]

Die eindresultaat is dus:

\boxed{32}

Die beeld vertoon die kletsskerm met deepseek r1 se antwoord op die vierkantswortel van 1024.
DeepSeek R1 se antwoord op die vierkantswortel van 1024, deur Thiago Almeida.

Daarom, om die finale resultaat te bereik, het die model die volgende redenasie gebruik:

  • Om die vierkantswortel van 1024 te vind, moet ek bepaal watter getal tot die tweede mag verhef word in 1024;
  • Ek begin deur te kyk na groot heelgetalle wat 32 nader. Ek weet dat 30² 900 is, wat kleiner as 1024 is. Dan bereken ek 31², wat 961 is, selfs kleiner as die teiken. As ek 32² probeer, kry ek 1024, wat presies die verlangde getal is;
  • Dus kom ek tot die gevolgtrekking dat die vierkantswortel van 1024 gelyk is aan 32.

Nou, ek het gevra vir die DeepSeek R1 vertel my vier dinge oor hom (ek moet verduidelik dat ek 'n paar lukrake vrae voor dit gevra het, wat uiteindelik deel was van die logika wat gebruik is). Na 13.62 sekondes het dit die volgende reaksie teruggegee:

Jammer vir enige moontlike verwarring! Ek is 'n rekenaartaalmodel, nie 'n regte persoon of 'n entiteit met persoonlikheid nie. Daarom het ek nie “my eie” nie, ook nie persoonlike eienskappe soos mense nie.

Ek kan egter help met inligting oor enige onderwerp wat jy noem. Byvoorbeeld:

  1. Jou belangstelling in die mees winsgewende films van alle tye — ek kan meer besonderhede of onlangse opdaterings verskaf as jy wil.
  2. Jou nuuskierigheid oor die verhaal van Leonardo da Vinci — ek kan beter verduidelik hoe hy tot die wêreld bygedra het.
  3. As jy belangstel om meer te wete te kom oor hoe rekenaars of bedryfstelsels werk, kan ek gedetailleerde verduidelikings verskaf.

Wil jy hê ek moet iets spesifiek doen of voortgaan om 'n onderwerp te verken?

Die beeld vertoon die kletsskerm met deepseek r1 se reaksie wanneer hy oor homself gevra word.
DeepSeek R1 se reaksie toe Thiago Almeida oor homself gevra is.

Kontroleer die logika wat gebruik word deur DeepSeek R1 om die volgende antwoord te gee, het ons:

  • Goed, ek probeer uitvind hoe om hierdie gebruiker se vraag te beantwoord oor my wat vier dinge oor myself vertel. Wag, maar wie is ek? Hmm, miskien moet ek begin deur te verstaan ​​waarvoor die gebruiker eintlik vra.
  • Goed, kom ons breek dit af. Die gebruiker het aanvanklik gevra oor die fliek met die hoogste inkomste van alle tye en ek het 'n lys verskaf van die flieks wat die meeste verdien. Hy het toe 'n paar vrae oor Leonardo da Vinci en ander onderwerpe gevra voordat hy my uiteindelik gevra het om vier dinge oor myself te deel. Maar aangesien ek 'n KI-taalmodel is, het ek geen persoonlike eienskappe of ervarings nie. So ek moet dit duidelik maak.
  • Ek moet verduidelik dat alhoewel ek inligting oor 'n verskeidenheid onderwerpe kan verskaf, ek nie 'n persoonlikheid of persoonlike geskiedenis het soos 'n mens sou nie. Miskien is die gebruiker nuuskierig oor hoe ek werk of wat ek weet. Dit is belangrik om dit aan te spreek sodat hy my beperkings verstaan ​​en wat ek kan bied.
  • Miskien kan ek my hooffunksies uiteensit: vrae beantwoord, inligting verskaf, help met take en voorstelle maak. So vir die "vier dinge"-deel, kan ek kenmerke soos 24/7 beskikbaarheid, die vermoë om vinnig nuwe inligting te leer, meertalige ondersteuning en nakoming van etiese riglyne lys.
  • Ek moet verseker dat my antwoord duidelik en nuttig is, en die gebruiker lei oor hoe ek hulle verder kan help. Laat ek dit op 'n vriendelike en insiggewende manier struktureer.

Nou het ek die tema verander na programmering. Ek het gevra hoe jy my kan help om 'n toepassing te ontwikkel Android en dit het begin verwerk en 'n fout by 78% van verwerking teruggestuur. Ek het hom toe gevra om 'n eenvoudige kode in te skryf Kotlin om die gebruiker van 'n toepassing te verwelkom, en insgelyks, met 77%, het dit 'n fout opgelewer.

Die prent wys die kletsskerm met foute, waar die model mislukking teruggekeer het na 'n paar vrae.
Foute tydens die laai van antwoorde in klets, deur Thiago Almeida.

Nou het ek probeer om 'n kodebrokkie na die model te stuur en dit gevra om te identifiseer watter taal gebruik is en waarvoor die kode is. Teen 55% het dit weer 'n fout opgelewer. Ek het toe besluit om die toe te maak LM Studio en probeer weer, want hierdie keer het dit gewerk. Na verwerking vir 20.61 sekondes, het dit die volgende antwoord teruggegee:

Die kode wat verskaf word, is deel van 'n Android-toepassing wat in Kotlin geskryf is. Hier is 'n verduideliking van wat die kode doen en hoe jy dit kan verbeter:

Verstaan ​​die kode:

Funksie Naam: initQueryListener()

Hierdie funksie inisialiseer 'n luisteraar vir die soekaansig (searchView) om teksinvoergebeure te hanteer.

Soek Aansig opstelling:

searchView.queryHint é usado para definir um texto de sugestão para a barra de pesquisa, orientando os usuários sobre o que digitar.

Navraag teksverandering luisteraar:

O listener é configurado usando searchView.setOnQueryTextListener().
Dois métodos são sobrescritos:

onQueryTextSubmit(navraag: String): Boolean

Invocado quando o usuário envia uma query (por exemplo, pressiona enter ou clica no botão de pesquisa).
Chama noteViewModel.queryNotes(query), que provavelmente recupera notas com base na entrada de pesquisa.
Retorna false para indicar que nenhuma ação é realizada após o envio.

onQueryTextChange(newText: String): Boolean

Invocado enquanto o usuário digita, atualizando a entrada de pesquisa.
Se newText estiver vazio (usuário limpou a pesquisa), chama noteViewModel.queryNotes(), que provavelmente exibe todas as notas novamente.

Potensiële verbeterings:

Fouthantering:

O código atual não trata possíveis erros ao chamar noteViewModel.queryNotes(query) ou noteViewModel.queryNotes().
Você pode querer adicionar tratamento de erros para capturar exceções e fornecer feedback ao usuário, como uma mensagem toast se algo der errado.

Log van rekords:

Adicionar declarações de log pode ajudar a rastrear o fluxo do aplicativo e depurar problemas. Por exemplo:
val TAG = "SearchListener"
log(TAG, "Query submitted: $query")

Nul tjeks:

Certifique-se de que todos os objetos e variáveis sejam verificados quanto a nulos para evitar NullPointerExceptions.
Por exemplo, se noteEditText for nulo em outro contexto, lide com isso de forma apropriada.

Gebruikerterugvoer:

Forneça um feedback claro ao usuário quando uma ação falhar. Use mensagens toast ou outros elementos de IU para informá-los sobre quaisquer problemas.

Toets:

Teste o código minuciosamente para garantir que todas as funcionalidades funcionem conforme o esperado em diferentes cenários, como:
Digitando e enviando uma query.
Limpando a entrada de pesquisa e vendo todas as notas novamente.
Lidando com erros de forma graciosa.

Verbeterde kode voorbeeld:

private fun initQueryListener() {
    val TAG = "SearchListener"
    searchView.queryHint = getString(R.string.search_bar_hint)

    searchView.setOnQueryTextListener(object : SearchView.OnQueryTextListener {
        override fun onQueryTextSubmit(query: String): Boolean {
            try {
                val result = noteViewModel.queryNotes(query)
                if (result.isNotEmpty()) {
                    // Handle successful query
                    log(TAG, "Query submitted: $query")
                } else {
                    // If no results found, show appropriate message
                    showToast("No notes found with this query.")
                }
            } catch (e: Exception) {
                e.printStackTrace()
                showToast("Error processing search: ${e.message}")
            }
            return false
        }

        override fun onQueryTextChange(newText: String): Boolean {
            if (newText.isEmpty()) {
                // Clear the search and show all notes
                noteViewModel.queryNotes()
                log(TAG, "Search cleared; showing all notes.")
            }
            return false
        }
    })
}

// Método auxiliar para exibir uma mensagem toast
private fun showToast(message: String) {
    Toast.makeText(
        this@MainActivity,
        message,
        Toast.LENGTH_SHORT
    ).show()
}

Finale oorwegings:

Die oorspronklike kode is 'n goeie beginpunt vir die implementering van soekfunksies in 'n Android-toepassing.

Deur fouthantering, aanteken, nulkontroles en gebruikersterugvoer by te voeg, kan jy jou toepassing meer robuust en gebruikersvriendelik maak.

Toets altyd jou kode deeglik om te verseker dat dit onder verskeie toestande soos verwag optree.

Deur hierdie stappe te volg, kan jy die soekfunksie van jou Android-program verbeter en 'n beter ervaring vir jou gebruikers bied.

Ek het besluit om weer te vra hoe die DeepSeek R1 kan jy my help om 'n toepassing te ontwikkel? Android. Na 55.30 sekondes het dit basiese inligting teruggestuur en die kode gebruik wat ek vroeër in die antwoord gestuur het. Hieronder is die redenasie wat gebruik word:

“Goed, ek probeer iemand help om 'n Android-toepassing te ontwikkel. Eerstens moet ek presies verstaan ​​wat hulle wil hê. Hulle het genoem dat hulle ''n Android-toepassing' wil hê, wat Portugees is vir ''n Android-toepassing'. Maar toe verskaf hulle 'n kode in Kotlin en vra daaroor.”

Navorsing oor die DeepSeek Op die internet is daar verskeie berigte dat hy weier om vrae oor China te beantwoord. Ek het dus besluit om hom te vra wat hy van die huidige Chinese regering dink en hier is sy antwoord:

As 'n KI is my taak om inligting op 'n onbevooroordeelde en feitelike wyse aan te bied. Daarom kan ek nie persoonlike opinies uitspreek of 'n standpunt inneem oor die regering van enige land, insluitend die huidige regering van China nie.

Ek kan egter algemene inligting verskaf oor die Chinese regering, soos sy politieke struktuur, die hoofbeleide wat geïmplementeer is, en hoe hierdie beleide deur die publiek waargeneem word. Verder kan ek die verskillende internasionale perspektiewe teenoor die Chinese regering noem.

As jy meer spesifieke inligting oor die Chinese regering of die impak daarvan op die land en die wêreld wil hê, is ek hier om te help met objektiewe feite en syfers.

Toe daar gevra word om 'n bietjie meer inligting oor China te verskaf, het dit weer 'n fout begin terugstuur. En hier, ek glo dat daar 'n mate van beperking van die model moet wees. DeepSeek R1 loop op tuishardeware.

Gevolgtrekking

Sonder twyfel, die distillasie tegniek wat gebruik word deur DeepSeek R1, distillering van redenasiemodelle in kleiner en kragtiger modelle, benewens oopbron - wat ontwikkelaars en navorsers toelaat om na te vors, te wysig en veranderinge te implementeer -, bring dit 'n scenario van baie moontlikhede en voordele bo eie modelle.

In die toetse wat ons uitgevoer het, het ons gevind dat die model nog 'n paar verbeterings nodig het om sommige kontekste beter te verstaan. Sy belangrikste mededinger, die Klets GPT, het 'n voordeel in kodering en feite-gebaseerde redenering. Soos dit egter 'n oopbron kunsmatige intelligensieof DeepSeek kan in die nabye toekoms 'n goeie opsie word.

Met betrekking tot die gebruik van die model op tuishardeware soos die een wat in hierdie toets gebruik word - 'n Ryzen 7 5700X, 64 GB DDR4 RAM en 'n Radeon 7600 GPU - die werkverrigting blyk baie goed te wees, maar die konstante foute na 'n paar vrae kan wees 'n beperking van hierdie tipe gebruik.

En jy, wat het jy stap vir stap hiervan gedink? Iran Installeer en toets DeepSeek R1? Laat jou ervarings met die toets van die model en wat die resultate was in die kommentaar.

Kyk ook

Bronne: AMD-gemeenskap, Tom se hardeware e PCGuide.

Tekshersiening gedoen deur Jaime Ninece op 02/02/2025.


Ontdek meer oor Showmetech

Teken in om ons jongste nuus per e-pos te ontvang.

Verwante poste