Якщо вам подобається ідея штучного інтелекту, але ви не хочете ділитися своїм контентом або інформацією з третіми особами, ви завжди можете встановити LLM на свій настільний комп’ютер або ноутбук Apple. Ви будете здивовані, наскільки це просто.
Вам подобається концепція штучного інтелекту, але не подобається ідея, що третя сторона може отримати доступ до вашого контенту і даних для навчання своїх LLM? Наприклад, ви пишете роман або наукову роботу і намагаєтесь уникати будь-яких випадків, коли ШІ може отримати доступ до ваших унікальних матеріалів. Якщо це так, то ви напевне не використовуєте Google Drive для цієї мети, а також онлайн чат-боти із вбудованим ШІ.
Якщо це схоже на вашу позицію щодо технології штучного інтелекту (але ви все одно хотіли б використовувати цей інструмент), дозвольте мені познайомити вас з Ollama.
Ollama – це LLM, який ви можете встановити на свій локальний комп’ютер і використовувати його звідти. Таким чином, вам не доведеться турбуватися про те, що хтось використає ваш контент, запити або інформацію в інших цілях.
Звучить складно, чи не так?
Але насправді це простіше, ніж ви можете собі уявити.
У підсумку ви отримаєте штучний інтелект, до якого можна отримати доступ через командний рядок. Існує графічний інтерфейс, який можна встановити, але він веб-орієнтований, а більшість інших графічних інтерфейсів або досить складно встановити, або їм не варто довіряти. Не хвилюйтеся. Якщо ви можете використовувати чат-бот, ви можете використовувати Ollama з терміналу.
Давайте встановимо його.
Як встановити Ollama на пристрій з MacOS
Що вам знадобиться: Щоб встановити Ollama, вам знадобиться пристрій Apple під управлінням MacOS 11 (Big Sur) або новішої версії. Ось і все.
1. Завантажте інсталяційний файл
Перше, що потрібно зробити, це відкрити веб-браузер за замовчуванням і завантажити інсталятор Ollama для MacOS.
2. Запустіть інсталятор
Після завантаження інсталятора двічі клацніть файл і, коли з’явиться запит, натисніть «Відкрити». Вам буде повідомлено, що Ollama найкраще працює, якщо запускати її з каталогу Applications. Натисніть «Перемістити до Applications» у цьому спливаючому вікні і зачекайте, поки відкриється майстер встановлення.
3. Встановіть Ollama
На першій сторінці майстра натисніть «Далі», а потім «Встановити». Вам буде запропоновано ввести пароль користувача. Введіть пароль і натисніть OK. Коли встановлення буде завершено, натисніть Готово, щоб закрити майстер.
Все готово. Ollama встановлено.
Як користуватися Ollama
1. Запуск Ollama
Відкрийте програму терміналу і виконайте команду:
ollama run llama3.2Це призведе до запуску останньої версії Ollama LLM. Залежно від швидкості вашого мережевого з’єднання, це може зайняти від 1 до 5 хвилин. Після завершення на екрані терміналу з’явиться наступний запит:
>>> Send a message (/? for help)2. Виконання першого запиту
Тепер ви можете виконати свій перший запит за допомогою Ollama. Введіть щось на кшталт:
What are the benefits of artificial intelligence?Ollama надрукує результати вашого запиту.
3. Вихід з Ollama
Коли ви закінчите роботу з Ollama, ви можете вийти з програми за допомогою команди /bye. Якщо ви хочете розпочати новий сеанс, просто відкрийте програму терміналу і введіть ollama run llama3.2.
Ви також можете завантажити інші LLM для Ollama. Щоб переглянути список доступних програм, зазирніть до бібліотеки Ollama. Коли ви знайдете LLM, який хочете встановити, виконайте команду ollama run MODEL_NAME (де MODEL_NAME – це назва LLM, який ви хочете встановити). Майте на увазі, що чим більша модель, тим більше місця і ресурсів вона буде споживати. Наприклад, модель llama3.2 займає лише 2.0 ГБ, тоді як модель llama3.3 – цілих 43 ГБ, тож обирайте уважно.
Ось і все, що потрібно для встановлення Ollama на ваш пристрій з MacOS. Користуйтесь усіма перевагами технології штучного інтелекту без ризиків для конфіденційності!
