Друзі, гарних вам вихідних! Сьогодні я запланував з хорошим другом вийти на кемпінг, розподіл дуже чіткий: я відповідаю за їжу, вона — за кемпінгові інструменти.

Перед від’їздом вона ще спеціально нагадала мені взяти кілька відер з локшиною швидкого приготування, щоб швидко перекусити, якщо зголодніємо. Але на місці я зрозумів, що її маленька каструлька — це занадто мініатюрна, вода закипала майже сорок хвилин, і ми не могли стримати сміх.

Але сьогодні, крім веселих пригод на кемпінгу, я хочу продовжити тему, яку раніше обговорювали — освітні додатки, інструменти для щоденного спілкування, і розповісти про більш професійну сферу — дослідження криптовалют. Тут вимоги до AI набагато вищі, ніж у нашому щоденному використанні.

Наприклад, Delphi Digital — це компанія, яка спеціалізується на дослідженнях криптовалют для інституційних клієнтів, і вони створили AI-помічника під назвою Delphi Oracle.

Обслуговують вони лише інституційних клієнтів, тому відповіді мають бути максимально професійними та точними, без жодних помилок. Але з іншого боку, обсяг запитів щодня досить великий. Якби всі питання оброблялися найкращими великими моделями, вартість була б надто високою. Тому баланс між цими двома потребами — досить складний.

Але рішення, яке вони реалізували у співпраці з @miranetwork, мені дуже подобається — воно повністю вирішує цю проблему.

По-перше, «інтелектуальний маршрутизатор»: якщо потрібно просто дізнатися ціну криптовалюти, він підключається безпосередньо до ринкових даних, не запускаючи складну модель. Тільки у випадках, коли потрібен глибокий аналіз, запускається повний AI-процес. Це забезпечує швидку відповідь і зменшує витрати.

По-друге, «інтелектуальний кеш»: часто задавані питання зберігаються у вигляді відповідей, згенерованих висококласною моделлю, щоб при повторних запитах просто їх швидко витягнути. Менш популярні питання обробляються моделлю з високим співвідношенням ціна-якість, і система автоматично регулює їх популярність.

Найрозумнішою ідеєю для мене є «сліпе тестування моделей»: вони створили набір тестів з криптовалютами, і різні моделі відповідають на них. Потім експерти оцінюють відповіді, не знаючи, яка модель їх дала. Виявилося, що деякі малі моделі показують результати, майже не гірші за дорогі великі моделі.

Після цього вони використовують механізм вибору «найкращої співвідношення ціна-якість»: для кожного питання обирають модель, яка відповідає вимогам якості і є найвигіднішою за ціною. В результаті витрати знизили на 90%, а якість залишилася високою.

Це навчив мене тому, що у професійній сфері AI не обов’язково бути найдорожчим — важливо знайти правильний підхід. Mira не просто надає інтерфейс до моделей, а й створює цілі рішення, враховуючи конкретні потреби Delphi — від маршрутизації і кешування до вибору моделей, поступово оптимізуючи процес.

Незалежно від того, чи це освітній додаток, інструмент для щоденного спілкування або професійний дослідницький помічник, головне для розробника — це питання: чи може інструмент вирішити реальну проблему — заощадити час, знизити витрати або підвищити якість.

Mira саме це і зробила, і готова разом з командою розробляти індивідуальні рішення, не застосовуючи універсальні підходи. Тому так багато розробників обирають її — вона дійсно надійна.

І наостанок, нагадую всім: @BeldexCoin закінчується 31 числа цього місяця, поспішайте зробити ставку!