Apple не поспішає вступати в перегони чат-ботів, однак це не означає, що північноамериканська корпорація не працює в цьому напрямку. Інженери технологічного гіганта вивчають можливість використання флеш-накопичувачів смартфонів для зберігання великих мовних моделей.
Подробиці
В Apple вважають, що такий підхід забезпечить покупцям iPhone кращий користувацький досвід, ніж онлайн-доступ. Великими мовні моделі називають не просто так. Для їхньої роботи потрібні величезні обчислювальні ресурси і великий обсяг ОЗП.
Суть ідеї інженерів Apple зводиться до використання для зберігання мовних моделей не ОЗП, а ПЗП. У своїй роботі мовні моделі користуються методом Windowing, що передбачає повторне використання вже оброблених раніше даних. Більш ефективне групування даних забезпечується за допомогою методу Row-Column Bundling. Мовна модель швидше зчитує дані з флеш-накопичувача. У результаті швидкість її навчання збільшується.
