ComfyUI Qwen VL3: छवियों और टेक्स्ट से प्रॉम्प्ट बनाना (एप03)
यह YouTube इनसाइट नोट LilysAI से बनाया गया है। मुफ्त में साइन अप करें और वीडियो से 10× तेज़ और गहरे इनसाइट्स पाएं।
Q: ComfyUI में QwenVL3 क्या है और यह क्या करता है?
ComfyUI में, QwenVL3 छवियों और टेक्स्ट से स्मार्ट प्रॉम्प्ट, विवरण या स्पष्टीकरण उत्पन्न करता है, जो छवि को समझकर और टेक्स्ट निर्देशों का पालन करके काम करता है।
ComfyUI में Qwen VL3 का उपयोग करके इमेज और टेक्स्ट से प्रॉम्प्ट कैसे बनाएं? Qwen VL3 इमेज और टेक्स्ट को समझकर विवरण, टैग और कहानियों जैसे स्मार्ट टेक्स्ट आउटपुट उत्पन्न करता है, जिससे इमेज जनरेशन वर्कफ़्लो में मदद मिलती है।
1. ComfyUI में QwenVL3 का उपयोग करके इमेज और टेक्स्ट से प्रॉम्प्ट बनाना
ComfyUI में QwenVL3 का उपयोग करके इमेज और टेक्स्ट से स्मार्ट प्रॉम्प्ट बनाए जा सकते हैं, जो इमेज जनरेशन वर्कफ़्लो में मदद करते हैं।1.1. QwenVL3 कैसे काम करता है और ComfyUI को अपडेट करना
- QwenVL3 का कार्यप्रवाह
- QwenVL3 ComfyUI में इमेज और टेक्स्ट को स्मार्ट प्रॉम्प्ट में बदलता है।
- यह एक या अधिक इमेज और वैकल्पिक टेक्स्ट निर्देश लेता है।
- QwenVL3 इमेज को समझता है और टेक्स्ट निर्देशों का पालन करके उसका विश्लेषण करता है।
- अंत में, यह विवरण, प्रॉम्प्ट या सहायक स्पष्टीकरण जैसे उपयोगी टेक्स्ट आउटपुट देता है।
- ComfyUI और नोड्स को अपडेट करना
- नवीनतम नोड्स तक पहुँचने के लिए ComfyUI Easy Installer का नवीनतम संस्करण होना महत्वपूर्ण है।
- Easy Installer को एक बैट फ़ाइल का उपयोग करके अपडेट किया जा सकता है, जो तेज़ है।
- Easy Installer को अपडेट करने के बाद, ComfyUI और उसके नोड्स को अपडेट करना चाहिए, क्योंकि इस एपिसोड में एक कस्टम नोड का उपयोग किया जाएगा।
- यह कस्टम नोड Easy Installer के साथ स्वचालित रूप से इंस्टॉल हो जाता है और QwenVL बड़े भाषा मॉडल को चलाने की अनुमति देता है।
1.2. QwenVL कस्टम नोड को स्थापित करना और समझना
- QwenVL कस्टम नोड की जाँच करना
- ComfyUI मैनेजर में "QwenVL" खोजने पर, यह कस्टम नोड पहले से ही स्थापित दिखाई देगा।
- यदि ComfyUI का कोई भिन्न संस्करण उपयोग किया जा रहा है, तो इस नोड को मैन्युअल रूप से इंस्टॉल करने की आवश्यकता हो सकती है, जिसमें "इंस्टॉल" बटन दिखाई देगा।
- नोड के शीर्षक पर क्लिक करके GitHub पेज पर जाया जा सकता है, जहाँ नए समर्थित मॉडल और अपडेट की जाँच करना अच्छा विचार है।
- QwenVL नोड्स का उपयोग करना और मॉडल प्रकारों को समझना
- कैनवास पर डबल क्लिक करके "QwenVL" खोजने पर कई नोड्स दिखाई देंगे, जिनमें से पहले दो नोड्स का उपयोग किया जाएगा: सामान्य QwenVL नोड और GGUF संस्करण वाला नोड।
- मुख्य अंतर यह है कि एक सामान्य सेफ टेंसर मॉडल लोड करता है, जबकि दूसरा GGUF मॉडल लोड करता है।
- मॉडल के नाम में 'B' के सामने की संख्या जितनी बड़ी होती है, मॉडल उतना ही स्मार्ट होता है, लेकिन उसका आकार भी बड़ा होता है और उसे अधिक VRAM की आवश्यकता होती है।
- पैरामीटर मॉडल के भीतर एक सीखा हुआ मान है, जो मॉडल की मेमोरी और सीखे हुए ज्ञान का प्रतिनिधित्व करता है; अधिक पैरामीटर का अर्थ है पैटर्न और विवरण को समझने की अधिक क्षमता, जबकि कम पैरामीटर का अर्थ है तेज़ और हल्का मॉडल, लेकिन कम विस्तृत।
- उदाहरण के लिए, "4B" का अर्थ है 4 बिलियन पैरामीटर, जो मॉडल के "मस्तिष्क" का आकार है।
1.3. मॉडल प्रकारों का चयन और GGUF मॉडल का लाभ
- मॉडल प्रकारों का चयन: इंस्ट्रक्ट बनाम थिंकिंग
- दो प्रकार के मॉडल उपलब्ध हैं: इंस्ट्रक्ट और थिंकिंग।
- इंस्ट्रक्ट स्पष्ट प्रॉम्प्ट और विवरण उत्पन्न करने के लिए उत्कृष्ट है, जबकि थिंकिंग धीमी, गहरी तर्कशक्ति और अधिक जटिल विश्लेषण के लिए बेहतर है।
- GGUF मॉडल का लाभ
- GGUF मॉडल भी समान नामकरण का उपयोग करते हैं, लेकिन वे क्वांटाइज़्ड संस्करण में होते हैं, जो कम VRAM और छोटे आकार के लिए बेहतर होते हैं।
- GGUF का उपयोग करना बेहतर है क्योंकि यह तेज़ होता है।
- QwenVL नोड का उपयोग करना और प्रॉम्प्ट उत्पन्न करना
- QwenVL नोड में एक रिस्पॉन्स आउटपुट होता है, जो एक टेक्स्ट आउटपुट या स्ट्रिंग होता है।
- इस आउटपुट से एक लिंक खींचकर, प्रीव्यू एज़ टेक्स्ट नोड जैसे संगत स्ट्रिंग नोड्स को खोजा और जोड़ा जा सकता है।
- मॉडल के लिए, 2B संस्करण जैसे छोटे मॉडल का चयन किया जा सकता है, जिसे नोड स्वचालित रूप से डाउनलोड करता है।
- प्रॉम्प्ट उत्पन्न करने के लिए, "मुझे एक प्रॉम्प्ट दें" जैसा एक कस्टम फ़ॉर्मूला या प्रॉम्प्ट जोड़ना होगा, अन्यथा यह इमेज उत्पन्न करने की कोशिश करेगा और कहेगा कि यह इमेज नहीं बना सकता।
- पहली बार वर्कफ़्लो चलाने पर, मॉडल को डाउनलोड करने, लोड करने और फिर उत्पन्न करने में लंबा समय लगता है, लेकिन डाउनलोड केवल एक बार होता है।
- एक बार डाउनलोड और लोड होने के बाद, प्रॉम्प्ट ChatGPT या Gemini के समान होता है, और बाद में यह लगभग 6 सेकंड में प्रॉम्प्ट उत्पन्न करता है।
- यदि केवल प्रॉम्प्ट चाहिए, तो "मुझे केवल प्रॉम्प्ट दें" जैसा निर्देश देने से अतिरिक्त टेक्स्ट हट जाता है।
2. QwenVL मॉडल के साथ उन्नत प्रॉम्प्ट जनरेशन और वर्कफ़्लो एकीकरण
2.1. मॉडल अनुकूलन और विभिन्न प्रॉम्प्ट प्रीसेट का उपयोग करना
- मॉडल अनुकूलन
- मॉडल जितना बड़ा होता है, वह उतना ही स्मार्ट होता है, लेकिन उतना ही धीमा भी होता है।
- क्वांटाइज़ेशन वीडियो कार्ड पर निर्भर करता है, और डिफ़ॉल्ट रूप से यह अधिकतम पर सेट होता है।
- अटेंशन मोड को आमतौर पर ऑटो पर छोड़ दिया जाता है।
- विभिन्न फ़ॉर्मूला प्रीसेट भी उपलब्ध हैं, जैसे कि विस्तृत विवरण प्रीसेट।
- इमेज से प्रॉम्प्ट उत्पन्न करना
- एक लोड इमेज नोड को इमेज इनपुट से जोड़ा जा सकता है, और फिर इमेज के माध्यम से नेविगेट करने के लिए दाएं तीर का उपयोग किया जा सकता है।
- Easy Installer के साथ एक बनी इमेज उपलब्ध होनी चाहिए, जिसका उपयोग किया जा सकता है।
- टैग जैसे विभिन्न टेम्पलेट का चयन करने पर टैग की एक सूची प्राप्त होगी।
- 2B मॉडल के साथ यह नोड धीमा हो सकता है।
- GGUF नोड का उपयोग करना और मॉडल आकार की तुलना
- GGUF नोड का उपयोग करना बेहतर है क्योंकि यह स्मार्ट और छोटे आकार के GGUF मॉडल को लोड करने की अनुमति देता है, जो मेमोरी में बेहतर फिट होते हैं।
- 4B मॉडल के लिए, F16 सबसे बड़ा है, Q8 मध्यम आकार का है, और Q4 सबसे छोटा है।
- GGUF मॉडल भी डाउनलोड होते हैं और ComfyUI के मॉडल्स फ़ोल्डर के भीतर LLM फ़ोल्डर में सहेजे जाते हैं।
- 2B मॉडल 4 GB से अधिक का सेफ टेंसर मॉडल है, जबकि 4B GGUF मॉडल में अधिक पैरामीटर होते हुए भी यह केवल 2 GB से थोड़ा अधिक का होता है, जिससे यह स्मार्ट और छोटा होता है और तेज़ी से लोड होता है।
- Q8 संस्करण, जो 4 GB से अधिक का है, Q4 संस्करण की तुलना में बेहतर परिणाम देता है, हालांकि यह थोड़ा धीमा होता है।
- विभिन्न मॉडलों को आज़माना महत्वपूर्ण है ताकि यह देखा जा सके कि कौन सा सिस्टम पर स्वीकार्य गति से चलता है।
- अधिकतम टोकन और प्रॉम्प्ट प्रीसेट
- अधिकतम टोकन यह निर्धारित करते हैं कि उत्तर कितना लंबा होगा; यदि टोकन बहुत कम सेट किए जाते हैं, तो उत्तर कट सकता है।
- टोकन की संख्या जितनी अधिक होती है, उत्तर उतना ही लंबा होता है, लेकिन यह थोड़ा धीमा भी होता है।
- GGUF मॉडल पिछले सेफ टेंसर मॉडल की तुलना में लगभग तीन गुना तेज़ था।
- टैग प्रीसेट का उपयोग लॉरा प्रशिक्षण या Etsy जैसे प्लेटफार्मों के लिए कीवर्ड के लिए किया जा सकता है।
- सिंपल डिस्क्रिप्शन छोटे विवरणों के लिए है, लेकिन AI मॉडल अक्सर लंबे प्रॉम्प्ट के साथ बेहतर काम करते हैं।
- डिटेल्ड डिस्क्रिप्शन या कस्टम फ़ॉर्मूला का उपयोग अक्सर किया जाता है।
- अल्ट्रा डिटेल्ड डिस्क्रिप्शन बहुत विशिष्ट चीज़ों के लिए अच्छा है, लेकिन कुछ AI मॉडल बहुत अधिक जानकारी होने पर खो सकते हैं।
- सिनेमैटिक डिस्क्रिप्शन सिनेमैटिक लुक के लिए है।
- डिटेल्ड एनालिसिस इमेज को विषय, वातावरण, प्रकाश व्यवस्था, संरचना और दृश्य विवरण में तोड़कर संरचित और गहन तरीके से वर्णित करता है।
- वीडियो समरी वीडियो का विवरण है, जिसके लिए लोड वीडियो नोड का उपयोग किया जा सकता है।
- शॉर्ट स्टोरी इमेज के आधार पर एक कहानी बनाता है, जो सोशल मीडिया पोस्ट या बच्चों के लिए शैक्षिक सामग्री के लिए उपयोगी हो सकता है।
- कस्टम फ़ॉर्मूला का उपयोग करके, जैसे कि ChatGPT से बनाया गया, इमेज में खरगोश से प्रेरित एक छोटी कविता लिखने के लिए कहा जा सकता है।
2.2. इमेज जनरेशन वर्कफ़्लो के साथ QwenVL नोड्स को जोड़ना
- QwenVL नोड्स को इमेज जनरेशन वर्कफ़्लो में एकीकृत करना
- QwenVL नोड्स को किसी भी इमेज वर्कफ़्लो के साथ जोड़ा जा सकता है, जैसे कि Z इमेज वर्कफ़्लो।
- प्रॉम्प्ट को मैन्युअल रूप से कॉपी-पेस्ट करने के बजाय, GGUF QwenVL नोड को कैनवास पर जोड़ा जा सकता है।
- प्रॉम्प्ट को टेक्स्ट एनकोडर नोड से जोड़ने से पहले उसे देखने के लिए प्रीव्यू एज़ टेक्स्ट नोड जोड़ा जा सकता है।
- टेक्स्ट एनकोडर का टेक्स्ट फ़ील्ड अक्षम हो जाता है क्योंकि यह जानकारी सीधे QwenVL नोड से लेता है।
- प्रॉम्प्ट जनरेशन और इमेज आउटपुट को अनुकूलित करना
- खरगोश के लिए एक प्रॉम्प्ट लिखने पर, जैसे "जंगल में चलता हुआ खरगोश", यदि डिफ़ॉल्ट रूप से F16 मॉडल का उपयोग किया जा रहा है, तो इसमें लंबा समय लग सकता है।
- Q8 संस्करण जैसे छोटे मॉडल पर स्विच करने से प्रक्रिया तेज़ हो जाती है।
- उत्पन्न प्रॉम्प्ट टेक्स्ट एनकोडर में जाता है, और फिर इमेज जनरेशन शुरू होती है, जिससे एक यथार्थवादी खरगोश मिलता है।
- कार्टून शैली के लिए, प्रॉम्प्ट को "एक प्यारा कार्टून खरगोश" में समायोजित किया जा सकता है।
- एक सफेद खरगोश और एक लंबा प्रॉम्प्ट चाहने पर, प्रॉम्प्ट लंबा हो जाता है और तदनुसार परिणाम मिलता है।
- इमेज से प्रॉम्प्ट उत्पन्न करना और शैली बदलना
- कस्टम प्रॉम्प्ट को हटाकर डिटेल्ड डिस्क्रिप्शन प्रीसेट का उपयोग किया जा सकता है और इमेज से प्रॉम्प्ट उत्पन्न करने के लिए लोड इमेज नोड जोड़ा जा सकता है।
- यह एक इमेज-टू-इमेज वर्कफ़्लो नहीं है; यह इमेज को पढ़ता है, उससे टेक्स्ट उत्पन्न करता है, और उस टेक्स्ट के आधार पर कुछ नया बनाता है।
- एक अलग सीड अलग परिणाम देगा।
- एक कस्टम प्रॉम्प्ट का उपयोग करके इमेज का विश्लेषण किया जा सकता है और उसे एक लंबे इमेज प्रॉम्प्ट के रूप में फिर से लिखा जा सकता है, जिसमें खरगोश को पांडा से बदला जा सकता है, जबकि पोज़ और शैली को बनाए रखा जा सकता है।
- परिणाम उम्मीद से बेहतर होता है, और यह टेक्स्ट-टू-इमेज वर्कफ़्लो के लिए बहुत अच्छा काम करता है।
- पांडा को बिल्ली से बदलने पर एक प्यारी बिल्ली मिलती है।
- इमेज की कला शैली को वॉटरकलर पेंटिंग में बदलने के लिए एक लंबा फ़ॉर्मूला जोड़ा जा सकता है, और परिणाम बुरा नहीं होता है।
- इमेज से कला शैली उधार लेकर उसी शैली में एक कार बनाने की कोशिश की जा सकती है।
- यदि परिणाम शैली का सटीक प्रतिनिधित्व नहीं करता है, तो बेहतर परिणाम प्राप्त करने के लिए एक अलग सीड का प्रयास किया जा सकता है।
- लगातार परिणाम प्राप्त करने के लिए प्रॉम्प्ट को समायोजित करना
- अलग-अलग सीड अलग-अलग परिणाम दे सकते हैं क्योंकि प्रॉम्प्ट हर बार थोड़ा बदल जाता है।
- अधिक सुसंगत परिणाम प्राप्त करने के लिए, प्रॉम्प्ट को "हमेशा एक प्यारी कार्टून कार" होने के लिए मजबूर किया जा सकता है, जिससे जनरेशन को बेहतर ढंग से निर्देशित किया जा सके।
- यह एक प्यारा परिणाम देता है।
- एक अलग सीड के साथ फिर से प्रयास करने पर एक मज़ेदार परिणाम मिल सकता है।
- एक sci-fi डिवाइस बनाने की कोशिश करने पर एक सरल परिणाम मिल सकता है, लेकिन एक अलग सीड के साथ एक प्यारा और बेहतर परिणाम मिल सकता है।
3. मल्टीपल इमेज प्रोसेसिंग, VRAM प्रबंधन और भुगतान किए गए API नोड्स का उपयोग
3.1. मल्टीपल इमेज प्रोसेसिंग और VRAM प्रबंधन
- मल्टीपल इमेज प्रोसेसिंग
- एक कुत्ते की इमेज लोड करने के बाद, एक बिल्ली की इमेज जोड़ने के लिए लोड इमेज नोड को डुप्लिकेट किया जा सकता है।
- यदि सीधे कनेक्ट करने का प्रयास किया जाता है, तो यह पिछली इमेज को डिस्कनेक्ट कर देगा।
- दो या अधिक इमेज जोड़ने के लिए, बैच इमेज नामक एक नोड का उपयोग किया जा सकता है, जो कई इमेज को एक साथ जोड़ने की अनुमति देता है।
- इमेज आउटपुट को स्मार्ट नोड से कनेक्ट करने के बाद, एक प्रॉम्प्ट का उपयोग करके इमेज को संयोजित करने का प्रयास किया जा सकता है।
- प्रॉम्प्ट में इमेज का विश्लेषण करने और प्रत्येक जानवर का वर्णन करने के लिए कहा जा सकता है, फिर बिल्ली और कुत्ते दोनों को एक ही दृश्य में एक साथ एक लंबे प्रॉम्प्ट के रूप में फिर से लिखने के लिए कहा जा सकता है।
- परिणाम में कुत्ता काफी समान होता है, भले ही बिल्ली और कुत्ता समान न हों।
- यदि किसी शैली या विषय का नाम नहीं पता है, तो अधिक सटीक प्रॉम्प्ट उत्पन्न करने के लिए इमेज का उपयोग किया जा सकता है।
- प्रॉम्प्ट में एक नियम जोड़ा जा सकता है, जैसे "बिल्ली और कुत्ते को गुलाबी टोपी पहननी चाहिए", और यह काम करता है।
- बिल्ली को खरगोश से बदलने पर, कुत्ते को खरगोश की पोशाक में, टोपी, जूते आदि के साथ अनुकूलित करने के लिए एक लंबा प्रॉम्प्ट बनाया जा सकता है।
- विभिन्न सीड के साथ परिणाम अच्छे और मज़ेदार होते हैं।
- VRAM प्रबंधन और प्रदर्शन अनुकूलन
- विभिन्न मॉडलों को आज़माना महत्वपूर्ण है ताकि यह देखा जा सके कि कौन सा सबसे अच्छा काम करता है।
- यदि मॉडल बहुत बड़ा है और इसे एक भारी इमेज जनरेशन मॉडल के साथ जोड़ा जाता है, तो सब कुछ VRAM में फिट नहीं हो सकता है और सब कुछ धीमा हो जाएगा।
- ऐसे मामलों में, एक छोटे इमेज जनरेशन मॉडल को एक छोटे LLM मॉडल के साथ जोड़ा जा सकता है ताकि यह मेमोरी में बेहतर फिट हो सके।
- यदि सब कुछ धीमा हो जाता है, तो ComfyUI को पुनरारंभ करने से समस्या ठीक हो सकती है।
- विभिन्न प्रीसेट या कस्टम प्रॉम्प्ट का प्रयास करें, और आवश्यकतानुसार अधिकतम टोकन समायोजित करें।
- एक निश्चित सीड का उपयोग करने से प्रॉम्प्ट से कई इमेज उत्पन्न की जा सकती हैं।
- यदि दोनों मॉडल बड़े हैं और अन्य प्रोग्राम भी खुले हैं, तो VRAM खत्म हो सकता है या जनरेशन बहुत धीमी हो सकती है।
- VRAM की मात्रा के आधार पर मॉडलों को अनुकूलित करना महत्वपूर्ण है।
- ChatGPT का उपयोग एक अलग टैब में प्रॉम्प्ट को कॉपी-पेस्ट करने के लिए किया जा सकता है ताकि कंप्यूटर के VRAM का उपयोग न हो।
- कंसोल में "आउट ऑफ मेमोरी" या "एलोकेशन ऑन डिवाइस" जैसे संदेश मिल सकते हैं।
- कुछ मामलों में, प्रॉम्प्ट उत्पन्न होने के बाद क्लीन VRAM जैसे नोड का उपयोग करने से मदद मिल सकती है।
- एक बेहतर समाधान एक छोटे मॉडल का उपयोग करना है, क्योंकि छोटे मॉडल को कम VRAM की आवश्यकता होती है और मुख्य इमेज मॉडल के लिए मेमोरी में अधिक जगह छोड़ते हैं।
3.2. भुगतान किए गए API नोड्स का उपयोग करना
- ChatGPT API नोड का उपयोग करना
- यदि अभी भी पर्याप्त VRAM नहीं है, तो ChatGPT से एक भुगतान किए गए नोड का उपयोग किया जा सकता है।
- यह नोड पिछले नोड के समान काम करता है, लेकिन यह अपने VRAM का उपयोग करने के बजाय सर्वर के VRAM का उपयोग करता है।
- यह प्रति टोकन क्रेडिट का उपयोग करता है।
- GPT-5 नैनो जैसे छोटे मॉडल का चयन किया जा सकता है, जिसकी लागत एक क्रेडिट से कम होती है।
- API नोड्स का उपयोग करने के लिए साइन इन करना आवश्यक है, और क्रेडिट खरीदे जा सकते हैं।
- जनरेशन के दौरान स्थिति की जाँच की जा सकती है, जैसे सर्वर की प्रतीक्षा करना।
- भुगतान किए जाने के बावजूद, कनेक्शन और प्रतिक्रिया उत्पन्न होने और वापस भेजे जाने की प्रतीक्षा करनी पड़ती है।
- पहली बार प्रॉम्प्ट प्राप्त करने में लगभग 16 सेकंड लगे।
- प्रॉम्प्ट का उपयोग वर्कफ़्लो में किया जाता है, और परिणाम संदर्भ इमेज के समान होता है।
- वास्तविकता और लागत का परीक्षण
- क्रेडिट की संख्या समान रहती है।
- एक आदमी की इमेज जैसे एक अलग इमेज का परीक्षण करने पर, परिणाम इस तरह दिखता है।
- Qwen मॉडल यथार्थवाद के लिए सबसे अच्छा नहीं है; इसका उपयोग अधिक चित्रण के लिए किया जाता है।
- Z इमेज वर्कफ़्लो में परीक्षण करने पर, यह कपड़े, उम्र, दाढ़ी आदि को कैप्चर करता है।
- क्रेडिट की जाँच करने पर, केवल एक क्रेडिट का नुकसान होता है, जिससे GPT-5 नैनो जैसे भुगतान किए गए विकल्प का उपयोग करना काफी सस्ता हो जाता है।
असीमित सामग्री को जीनियस की तरह समझें — LilysAI के साथ
10,00,000+ ज्ञान‑खोजी Lilys AI का उपयोग करते हैं।
