Nvidia Rilis "Chat with RTX" Chatbot AI untuk PC

Pabrikan hardware Nvidia telah meluncurkan aplikasi chatbot berbasis kecerdasan buatan (Artificial Intelligence) yang bernama "Chat with RTX". Berbeda dengan sebagian besar aplikasi sejenis yang bekerja di cloud, Chat with RTX dirancang untuk beroperasi secara lokal di komputer pengguna. Fitur utamanya mencakup kemampuan untuk merangkum dokumen dan video YouTube, memberikan rekomendasi, dan memberikan tutorial, semuanya dengan efisiensi tinggi.

Mengunggah Dokumen dan Merangkum Konten

Salah satu fitur unggulan dari Chat with RTX adalah kemampuannya untuk merangkum dokumen. Pengguna dapat mengunggah berkas dengan format .txt, .pdf, .doc/.docx, dan .xml, dan meminta chatbot untuk merangkumnya. Misalnya, pengguna dapat mengunggah file rapat dan bertanya tentang detail tertentu, dan chatbot akan mencari jawaban langsung dari dokumen tersebut.

Tidak hanya itu, Chat with RTX juga mampu merangkum video YouTube dengan hanya menggunakan tautan. Dengan demikian, pengguna tidak perlu lagi menonton video secara penuh untuk mencari informasi tertentu. Cukup dengan mengajukan pertanyaan, chatbot akan memberikan rangkuman yang relevan dari video yang diberikan.

Selain merangkum konten, Chat with RTX juga dapat memberikan rekomendasi tempat wisata dan tutorial dari berbagai sumber, termasuk kreator konten di YouTube. Dengan begitu, pengguna dapat memperoleh informasi yang mereka butuhkan dengan lebih efisien dan cepat.

Misalnya, pengguna memiliki opsi untuk meminta rekomendasi tempat wisata "hidden gem" yang tersembunyi namun patut dikunjungi dari berbagai kreator konten di YouTube, atau meminta panduan tutorial tentang cara membuat kue. Kemampuan ini memungkinkan pengguna untuk mendapatkan informasi yang mereka butuhkan dengan lebih efisien dan cepat. Dengan demikian, dapat disimpulkan bahwa Chat with RTX memiliki kesamaan dalam konsep dengan chatbot Gemini milik Google atau ChatGPT buatan OpenAI, karena mampu memberikan layanan yang relevan dan bermanfaat bagi penggunanya.

Spesifikasi dan Persyaratan Pengguna

Aplikasi ini menggunakan retrieval augmented generation (RAG) dan software Nvidia TensorRT-LLM yang diakselerasi oleh GPU Nvidia RTX 30 atau 40 series. Ini memastikan kinerja optimal dan penggunaan sumber daya yang efisien.

Untuk dapat menggunakan Chat with RTX, pengguna membutuhkan spesifikasi minimum, termasuk penggunaan GPU Nvidia RTX 30 atau 40 series, sistem operasi Windows 10 atau 11, dan driver GPU Nvidia terbaru, ditambah dengan driver GPU Nvidia terbaru (versi 535.11 atau lebih baru). Selain itu, pengguna juga memerlukan ruang penyimpanan sebesar 35 GB untuk menggunakan aplikasi ini. Proses penggunaan aplikasi melibatkan pengunggahan file lokal dari komputer pengguna ke large language model (LLM) open-source seperti Mistral atau Llama 2, yang terkenal dengan kemampuan memberikan jawaban cepat dan relevan secara kontekstual. 

Mengutip informasi dari blog resmi Nvidia pada Rabu (14/2/2024), Chat with RTX beroperasi secara lokal di PC dan workstation Nvidia RTX, memastikan bahwa data pengguna hanya disimpan di perangkat tersebut tanpa mengandalkan LLM berbasis cloud. Hal ini memberikan keuntungan kepada pengguna yang ingin memproses data sensitif tanpa perlu membagikannya kepada pihak ketiga dan tanpa memerlukan koneksi internet saat menggunakan aplikasi ini. Dengan demikian, pengguna dapat mengoptimalkan penggunaan Chat with RTX dengan lebih nyaman dan aman di lingkungan PC mereka.

Gratis untuk Diunduh

Meskipun masih dalam tahap demo, Chat with RTX dapat diunduh secara gratis oleh pengguna yang memenuhi persyaratan minimum. Namun, beberapa ulasan awal menunjukkan bahwa masih ada beberapa kekurangan dalam aplikasi ini. Misalnya, proses instalasi memerlukan kesabaran, dan aplikasi terkadang dapat menjadi boros daya. Selain itu, ada beberapa catatan tentang ketidakakuratan atribusi sumber dan keterbatasan dalam mengingat konteks pembicaraan.

Meskipun masih memiliki beberapa kekurangan, Chat with RTX menunjukkan potensi besar dalam meningkatkan efisiensi pengguna dalam mengakses dan menganalisis informasi secara lokal di komputer mereka. Dengan fitur-fitur yang terus diperbarui dan kemungkinan pengembangan lebih lanjut, aplikasi ini dapat menjadi asisten pribadi digital yang sangat berguna bagi pengguna PC di masa depan.

Dengan peluncuran aplikasi chatbot AI "Chat with RTX", Nvidia membuka jalan bagi solusi asisten pribadi digital yang bekerja secara lokal di PC. Dengan kemampuannya untuk merangkum dokumen, video YouTube, memberikan rekomendasi, dan tutorial, aplikasi ini menjanjikan efisiensi tinggi dalam akses informasi. Meskipun masih ada beberapa kekurangan yang perlu diperbaiki, potensi pengembangan lebih lanjut menjanjikan masa depan yang cerah bagi aplikasi ini. Bagi pengguna yang ingin mengakses dan menganalisis informasi secara efisien, Chat with RTX menjadi salah satu pilihan yang layak untuk dipertimbangkan.