অপেরা সংযোগ ছাড়াই স্থানীয় এলএলএম চালানো সমর্থন করে

অপেরা তার এআই ফিচার ড্রপ প্রোগ্রামের অংশ হিসেবে অপেরা ওয়ান ডেভেলপার ব্রাউজারে স্থানীয়ভাবে বড় ভাষা মডেল (এলএলএম) চালানোর জন্য পরীক্ষামূলক সমর্থন যোগ করেছে।

অপেরার প্রধান ইন্টারনেট ব্রাউজার অপেরা ওয়ানের ডেভেলপার সংস্করণে এই মুহূর্তে এক্সক্লুসিভ, আপডেটটি 150টি ভিন্ন এলএলএম পরিবার থেকে 50টি ভিন্ন এলএলএম যোগ করেছে, যার মধ্যে এলএলএএমএ, জেমা এবং মিক্সট্রাল রয়েছে। পূর্বে, অপেরা শুধুমাত্র তার নিজস্ব এলএলএম, আরিয়া, মাইক্রোসফটের কপিলট এবং ওপেনএআই-এর চ্যাটজিপিটির মতো একই শিরায় একটি চ্যাটবট হিসাবে তৈরি করা সমর্থনের প্রস্তাব দিয়েছিল।

যাইহোক, আরিয়ার মধ্যে মূল পার্থক্য, কপিলট (যা শুধুমাত্র আকাঙ্ক্ষা করে ভবিষ্যতে স্থানীয়ভাবে চালানোর সাজানোর), এবং অনুরূপ AI চ্যাটবটগুলি হল যে তারা একটি ডেডিকেটেড সার্ভারের সাথে ইন্টারনেটের মাধ্যমে সংযুক্ত হওয়ার উপর নির্ভর করে। অপেরা বলে যে স্থানীয়ভাবে চালানো এলএলএমগুলির সাথে এটি অপেরা ওয়ান ডেভেলপারে যোগ করা হয়েছে, ডেটা ব্যবহারকারীদের পিসিতে স্থানীয় থাকে এবং প্রাথমিকভাবে এলএলএম ডাউনলোড করা ছাড়া ইন্টারনেট সংযোগের প্রয়োজন হয় না।

অপেরা তার নতুন স্থানীয় এলএলএম বৈশিষ্ট্যের জন্য একটি সম্ভাব্য ব্যবহারের ক্ষেত্রেও অনুমান করেছে। "কি হবে যদি ভবিষ্যতের ব্রাউজার আপনার ডিভাইসের সমস্ত ডেটা থাকাকালীন আপনার ঐতিহাসিক ইনপুটের উপর ভিত্তি করে AI সমাধানের উপর নির্ভর করতে পারে?" যদিও গোপনীয়তা উত্সাহীরা সম্ভবত তাদের ডেটা কেবল তাদের পিসিতে রাখা এবং অন্য কোথাও না থাকার ধারণাটি পছন্দ করে, একটি ব্রাউজার-ভিত্তিক এলএলএম মনে রাখা খুব বেশি আকর্ষণীয় নাও হতে পারে।

"এটি এত রক্তপাতের প্রান্ত, যে এটি ভেঙ্গে যেতে পারে," অপেরা এর মধ্যে বলেছেন ব্লগ পোস্ট. যদিও একটি কৌতুক, এটা সত্য থেকে দূরে নয়. অপেরা ভিপি জান স্ট্যান্ডাল বলেছেন, "যদিও আমরা সম্ভাব্য সবচেয়ে স্থিতিশীল সংস্করণটি পাঠানোর চেষ্টা করি, তখন বিকাশকারীর বিল্ডগুলি পরীক্ষামূলক হতে পারে এবং বাস্তবে কিছুটা জটিল হতে পারে" নিবন্ধনকর্মী.

এই স্থানীয় এলএলএম বৈশিষ্ট্যটি কখন নিয়মিত অপেরা ওয়ানে পরিণত হবে, স্ট্যান্ডাল বলেছেন: “আমাদের কাছে কখন বা কীভাবে এই বৈশিষ্ট্যটি নিয়মিত অপেরা ব্রাউজারগুলিতে চালু করা হবে তার কোনও টাইমলাইন নেই৷ তবে আমাদের ব্যবহারকারীদের আশা করা উচিত যে এআই ফিচার ড্রপ প্রোগ্রামে চালু হওয়া বৈশিষ্ট্যগুলি আমাদের প্রধান ব্রাউজারগুলিতে পরিচিত হওয়ার আগে বিকশিত হতে থাকবে।”

যেহেতু এনভিডিয়ার মতো কোম্পানির হাই-এন্ড জিপিইউ দিয়ে সজ্জিত বড় সার্ভারের সাথে প্রতিদ্বন্দ্বিতা করা বেশ কঠিন, অপেরা বলেছে যে স্থানীয় যাওয়া সম্ভবত একটি অনলাইন এলএলএম ব্যবহার করার চেয়ে "যথেষ্ট ধীর" হবে। দুষ্টুমি করসি না.

যাইহোক, যারা প্রচুর LLM চেষ্টা করতে চান তাদের জন্য স্টোরেজ একটি বড় সমস্যা হতে পারে। অপেরা বলে যে প্রতিটি এলএলএম-এর জন্য দুই থেকে দশ গিগাবাইটের মধ্যে স্টোরেজ প্রয়োজন, এবং যখন আমরা অপেরা ওয়ান ডেভেলপারে ঘুরে বেড়াই, তখন এটি প্রচুর এলএলএম-এর জন্য সত্য ছিল, যার মধ্যে কিছুর আকার ছিল প্রায় 1.5 গিগাবাইট।

Opera One-এর মাধ্যমে প্রদত্ত প্রচুর LLM-এর জন্য 10 GB-এর বেশি উপায় প্রয়োজন। অনেকগুলি 10-20 GB অঞ্চলে ছিল, কিছু মোটামুটি 40 GB ছিল, এবং এমনকি আমরা একটি, মেগাডলফিন খুঁজে পেয়েছি, যার পরিমাপ 67 জিবি। আপনি যদি অপেরা ওয়ান ডেভেলপারে অন্তর্ভুক্ত 150 ধরনের এলএলএম-এর নমুনা নিতে চান, তাহলে স্ট্যান্ডার্ড 1 টিবি এসএসডি সম্ভবত এটি কাটবে না।

এই সীমাবদ্ধতা থাকা সত্ত্বেও, এর মানে Opera One (বা অন্তত ডেভেলপার শাখা) হল প্রথম ব্রাউজার যা স্থানীয়ভাবে LLM চালানোর জন্য একটি সমাধান অফার করে। পিসিতে স্থানীয়ভাবে এলএলএম আনার কয়েকটি সমাধানের মধ্যে এটিও একটি এনভিডিয়ার চ্যাটউইথআরটিএক্স চ্যাটবট এবং একটি মুষ্টিমেয় অন্যান্য অ্যাপ. যদিও এটি কিছুটা বিদ্রুপের বিষয় যে একটি ইন্টারনেট ব্রাউজার AI চ্যাটবটগুলির একটি চিত্তাকর্ষক স্প্রেডের সাথে আসে যা স্পষ্টভাবে কাজ করার জন্য ইন্টারনেটের প্রয়োজন হয় না। ®

• এসইও চালিত বিষয়বস্তু এবং পিআর বিতরণ। আজই পরিবর্ধিত পান।
• PlatoData.Network উল্লম্ব জেনারেটিভ Ai. নিজেকে ক্ষমতায়িত করুন। এখানে প্রবেশ করুন.
• প্লেটোএআইস্ট্রিম। Web3 ইন্টেলিজেন্স। জ্ঞান প্রসারিত. এখানে প্রবেশ করুন.
• প্লেটোইএসজি। কার্বন, ক্লিনটেক, শক্তি, পরিবেশ সৌর, বর্জ্য ব্যবস্থাপনা. এখানে প্রবেশ করুন.
• প্লেটো হেলথ। বায়োটেক এবং ক্লিনিক্যাল ট্রায়াল ইন্টেলিজেন্স। এখানে প্রবেশ করুন.
• উত্স: https://go.theregister.com/feed/www.theregister.com/2024/04/03/opera_local_llm/