ObviousIdea artık GitHub'da ve Ollama ile yerel yapay zekaya destek oluyoruz
ObviousIdea artık GitHub'da da var: github.com/obviousidea.
Bu bizim için küçük ama önemli bir adım. GitHub, ürünlerimizle ilgili kod, örnekler, sorun takib, teknik notlar ve küçük yardımcı programları paylaşmak için pratik bir yerdir. Ayrıca geliştiricilere ve ileri düzey kullanıcılara inşa ettiklerimizi daha net takip etmeleri için bir yol sunuyor.
Ollama'yı neden destekliyoruz
Ayrıca desteğimizi göstermek istiyoruz Ollama. Yerel yapay zeka, her belgenin, ekran görüntüsünün veya teknik notun bilgisayarından çıkmasını istemeyen kişiler için ciddi bir seçenek haline geliyor.
Yerel
Modeller kendi makinenizde çalışabilir. Bu, iş akışınızda özel ekran görüntüleri, müşteri verileri, dahili araçlar, hukuki materyaller veya kaynak kodu olduğunda faydalıdır.
Esnek
Donanım izin verdiğinde küçük hızlı modellerden büyük modellere kadar farklı görevler için farklı modeller seçebilirsiniz.
Özel ve uygun fiyatlı
Yerel çıkarım, istek başına bulut maliyetlerini önleyebilir ve veri maruziyetini azaltabilir. Birçok deneyde, donanım orada olduğunda fiilen serbest olur.
Dürüst bir uyarı var: yerel yapay zeka güçlü donanımdan faydalanır. Windows'ta iyi performans için genellikle en rahat yol yeni NVIDIA GPU'dur. Ollama'nın kendi donanım dokümantasyonu, NVIDIA GPU desteğini hesaplama kapasitesi 5.0+ ve son sürücülerle listeliyor; desteklenen aileler arasında RTX 30xx, 40xx ve 50xx kartlar da var.
Bunun neden önemli Light Capture
Bir sonraki ürünümüz, Light Capture, ekran görüntüleri etrafında gerçek çalışan dosyalar olarak tasarlanmıştır: yakalama, arama, OCR, yorumlar, meta veriler ve inceleme. Bu doğal olarak yapay zeka destekli iş akışlarına yol açar.
- Ekran görüntüleri koleksiyonları için faydalı etiketler oluşturun.
- Bir ekran görüntüsünde görünenleri bulut servisine göndermeden özetleyin.
- OCR, yorumlar ve yerel yapay zeka açıklamalarını birleştirerek aramayı geliştirin.
- Gizlilik önemlidirken, kullanıcının cihazında hassas yakalamalar tutun.
Bulut yapay zekası hız, kullanım veya model kalitesi öncelikli olduğunda hâlâ faydalı olacaktır. Ama yerel yapay zeka kullanıcılara başka bir seçenek sunuyor ve bizce seçim önemli oluyor.
GitHub'ObviousIdea takip edin
GitHub'daki varlığımızı şu adreste bulabilirsiniz: github.com/obviousidea. Geliştiriciye yönelik materyaller, örnekler ve ObviousIdea ürünleriyle ilgili kamu teknik çalışmaları için kademeli olarak kullanacağız.
Kaynaklar: Ollama ve Ollama GPU dokümantasyonu.