DeepSeek AI brengt DeepSeek-Prover-V2 uit, een open-source large language model voor Lean 4 stellingbewijzen. Het maakt gebruik van recursive proof search met DeepSeek-V3 voor trainingsgegevens en reinforcement learning, en bereikt topresultaten op MiniF2F. Het artikel DeepSeek onthult DeepSeek-Prover-V2: Vooruitgang in neuraal stellingbewijzen met recursieve proof search en nieuwe benchmark verscheen eerst op Synced.
Positional encoding in LLMs kan op het eerste gezicht enigszins mysterieus lijken, en dat is niet zonder reden!
Volgende vrijdag nodig ik je uit voor een spannend live coding event. Het is een volledig gratis event waarin ik de basis van de self-attention layer uitleg en deze helemaal zelf implementeer in PyTorch. Van vanilla self-attention tot de multi-head attention layer, ik loop je door alle details.
Kwai AI's SRPO-framework versnelt LLM RL post-training met 90% terwijl het dezelfde prestaties als DeepSeek-R1 bereikt in wiskunde en code. Deze twee-fase RL-benadering met history resampling overwint GRPO-beperkingen. Dit bericht verscheen voor het eerst op Synced.
Van prototype tot productie: breng schaalbare LLM-systemen in 6 weken naar markt
Zhipu.AI maakt snellere GLM-modellen open-source beschikbaar (8x snelheidsverbetering), lanceert Z.ai en streeft naar wereldwijde expansie, mogelijk in aanloop naar IPO. Dit bericht verscheen voor het eerst op Synced.
DeepSeek AI, een prominente speler in het large language model-domein, heeft recent een onderzoekspapier gepubliceerd met details over een nieuwe techniek gericht op het verbeteren van de schaalbaarheid van general reward models (GRMs) tijdens de inference-fase. Het artikel DeepSeek kondigt volgende generatie R2-model aan, onthult innovatieve benadering voor schaalbaarheid van inference met SPCT verscheen eerst op Synced.