поради някаква "причина" ГПТ напоследък е станал особено "тъп"
абсолютна редачка на думи без никаква "логика" и смисъл

Тъпото китайче (ДиипСиик) дори казва: аааа това, което написах не е вярно и се коригира...
Бахти и тамагочитата

Това, че моделите се съгласяват с мнението на питащия се дължи от т.н. RLHF след-трениране, при което им се набива в главата какво се харесва като отговор и какво не, и може да се представите откъде идва изкривяването.

Метода за справяне с проблема е сравнително лесно. Всичко се представя от трето лице, и безпристрастно. "Анализирай позиция А и позиция Б" и. т.н. Като цяло почнаха да се справят с проблема. Opus 4-7 е по-балансиран в отговорите.

Ами то да е само това сравнително лесно се избягва, но упорството им в грешна посока е също толкова вредно, дори повече. Това, че започнаха да помнят какво е говорено, т.е. имат достъп до предходни сесии, е колкото полезно, толкова и вредно. Аз ги намирам много малко полезни, но все пак полезни, въпреки че .... днес конфигурирам една батерия, и го разпитвам за различните флагове, по лесно е от ровенето в чаршафа на TI, и по скоро не го питам за конкретен флаг, а го питам тоя параметър кой флаг е, то иначе регистъра се намира за 5 сек в пдф-а .. Та не лъже много, но това защото не ми е първия път с техният тул, а и виждам какво ми казва тула като кликна на флага .. опита се обаче да излъже на няколко пъти, и доста пъти ме праща за зелен хайвер ...

баш за тва иде реч

Странно е че повдигате темата вчера чата го нямаше никакъв чета тая сутрин че се е сринал по света. Аз ползвах за малко дипсик не е толкова лош даже мисля че върши същата работа като чата хубаво е че има конкуренция

Конкуренция не само има, ама може и да си я въртиш на собствен или нает хардуер ако сривовете те притесняват. Qwen 3.5 за по-лек хардуер и задачи и GLM-5 за по-тежки такива.

Тони, предполагам го знаеш, но ако не, най-ефективния подход за подобни задачи е да съхраниш документацията в папка и да стартираш в нея Claude Code или която програма използваш, като укажеш на модела изрично да ползва документацията.

https://it.dir.bg/tehnologii/izsledvane ... ativnostta

Гениален план - когато всички затъпеят, Тъпанчев няма да изглежда тъп защото всички ще се по-глупави от него.
И никой няма да го нарича "Тъпанчев" или "Изкуствен Идиот" защото на никого няма да му стигне акъла за това.
Брилянтно!

Нормално.
Както използването на GPS намалява способността за ориентация,
така и използването на някой друг да мисли вместо теб, води до затъпяване.
Това, което не се използва, закърнява.

Когато бях в университета, можех да диференцирам до даден ред и да интегрирам наум. С течение на времето загубих тази способност. Въпросът дали съм по-тъп сега е излишен. Не дали а как се използва ИИ е важно.

А може би въпросът "дали сега би бил по-умен/креативен ако не беше залитал в посока ИИ" също заслужава внимание.

скоро ще възникне въпросът дали сега не си излишен

От това което виждам покрай собствените си проекти (след-тренировка и дестилация на модели) и това което се публикува, този момент а много далече. Без надзирател моделите е много лесно да се подхлъзнат в грешната посока и автоматизацията отиде. А автоматизирани надзиратели много трудно се правят (проблемът е сходен този при формалната верификация - възможно е да се пише код без бъгове, но вместо трима драскачи и една година писане/корекция/писане/корекция отнема един с докторска степен по математика и две години моделиране), т.е. човешката експертиза най-вероятно ще остане фактор още дълго време. А ако това не е така, първо ще го видим да се прояви при роботите.

Я дай някой линк за чете по темата за след-тренировка и дестилация на модели?

@palavrov, aко сега започваш бих ти препоръчал следната литература

1. Добър едночасов преглед на техниките с доста практически примери
https://learn.deeplearning.ai/courses/p ... g-of-llms/
2. Тази книга е отличното въведение, особено ако си чел предната му за LLM и ти е харесала. Ще ти отнеме малко над 10-ина часа,
Build an RLM from scratch by Sebastian Raschka но е https://www.manning.com/books/build-a-r ... om-scratch
3. За практическо въведение препоръчвам The Hugging Face Playbook
https://huggingface.co/spaces/HuggingFa ... g-playbook
4. Освен това е препоръчително да се запознаеш с приложенията извън езиковите модели и трансформер архитектурата. За целта препоръчвам този курс, проиблизително 25 часа
https://huggingface.co/learn/deep-rl-course/
5. А ако вече си запознат с теорията и те сърби да почнеш да тренираш собствени модели, публикациите на Aлън института са може би един от най-добрият свободен материал
https://github.com/orgs/allenai/repositories
https://allenai.org/research