OpenAI, yang didirikan oleh Elon Musk beberapa tahun lalu, merilis algoritme jaringan saraf baru, GPT-3, pada bulan Juni. Saat ini, ini adalah sistem paling canggih yang dapat bekerja dengan bahasa alami.
Kemampuannya sangat kolosal. Dengan GPT-3, Anda dapat membuat semua jenis informasi tekstual, termasuk teks teknis yang kompleks. Misalnya, ketika jaringan saraf diberi tugas untuk menulis teks tentang diri mereka sendiri, dia membuat artikel dengan judul keras "GPT-3 dari OpenAI dapat menjadi penemuan terbesar setelah Bitcoin" .
Tetapi bisakah jaringan saraf tidak hanya menyusun kata-kata, meniru seseorang, tetapi benar-benar membuat teks dengan makna? Puisi, cerita atau bahkan novel yang menarik untuk dibaca? Mari kita cari tahu.
GPT-3: algoritme jaringan saraf yang merupakan urutan besarnya di depan semua yang ada
GPT-3 adalah model bahasa paling kompleks yang pernah dibuat oleh manusia.
Ia bekerja dengan kemungkinan urutan kata tertentu. GPT-3 berbeda dari model sebelumnya dalam skala.
Ini menggunakan 175 miliar parameter untuk menghasilkan teks dan telah dilatih pada lebih dari 1,5 triliun kata. Selain itu, teks untuk pelatihan digunakan dalam berbagai cara: dari posting di forum hingga sastra klasik.
Sistem mencoba memprediksi teks berdasarkan blok teks yang paling mungkin. Pengguna hanya perlu menyetel beberapa titik referensi untuk memulai jaringan neural.
Semakin baik sistem memahami konteks permintaan, semakin akurat responsnya.
Seseorang mendapat kesan bahwa jaringan saraf benar-benar dapat memahami bahasa alami.
Sharif Shameem, salah satu pendiri dan CEO proyek Debuild.co, memposting di akun Twitternya hasil pengujian berbagai kapabilitas jaringan saraf. Dan mereka sangat mengesankan.
Dalam video tersebut, Anda dapat melihat bahwa Sharif menulis teks sederhana ke dalam baris masukan, seolah menjelaskan kepada perancang atau pengembang apa yang dia butuhkan. Dan sistem menafsirkannya dan mengembalikan hasilnya.
Saya sangat terhibur dengan "tombol yang mirip dengan semangka".
, , ?
: .
vs. :
Teks dari jaringan saraf praktis tidak berbeda dari teks manusia. Liam Porr, seorang siswa di Berkeley, melakukan percobaan dan memposting artikel yang dibuat oleh GPT-3 di blognya di Adolos selama dua minggu.
Artikel motivasi dari jaringan saraf dibaca oleh 26.000 orang. Dan, seperti yang dikatakan Liam, hanya satu dari mereka yang menebak bahwa lirik itu sebenarnya ditulis bukan oleh seseorang, tetapi oleh mesin. Tetapi bahkan komentar ini juga dipikirkan oleh pembaca lain:
Jika Anda membaca artikel itu sendiri, Anda mendapat kesan bahwa itu benar-benar ditulis oleh pelatih atau pelatih motivasi. Gaya dan frasa yang sesuai, struktur teks yang memadai. Terkadang kalimat atau frasa individu tampak tidak terlalu alami, tetapi ini tidak mengkhianati mesin. Bagaimanapun, seseorang membuat kesalahan kecil seperti itu.
Inilah salah satu alasan mengapa GPT-3 tidak dirilis ke domain publik. Untuk mendapatkan akses ke OpenAI API, Anda perlu mengisi aplikasi yang menunjukkan dengan tepat untuk apa Anda berencana menggunakan jaringan neural.
Bahkan pada tahap pembuatan GPT-2, versi algoritma sebelumnya, para pengembang menyadari potensi bahaya, karena sistem dapat menjadi instrumen perang informasi. Jaringan saraf semacam itu mampu menghasilkan berita palsu dengan kecepatan yang mengerikan. Jika Anda menggunakan kemampuannya untuk merugikan, Internet hanya akan terkubur di bawah konten palsu.
Itu sebabnya mereka berencana menjualnya ke bisnis langganan di masa depan. Tapi tidak untuk semua orang, tapi hanya untuk mereka yang membuktikan bahwa mereka berencana menggunakannya "untuk tujuan damai."
Jaringan saraf, buku fiksi dan puisi
Jaringan saraf mungkin bisa menyaingi penulis berita di media atau artikel teknis, tetapi proses pembuatan novel atau puisi jauh lebih rumit. Bahkan prinsip dasar menulis fiksi berbeda dengan prinsip teknis. Adalah mungkin untuk mengajarkan jaringan saraf untuk memilih sajak dan mengikuti ritme tanpa masalah, tetapi dengan banyak arti, mesin masih merupakan byad.
Ada jaringan saraf Rusia "Porfirevich" berdasarkan algoritma GTP-2. Dia "tahu" bahasa Rusia dan tidak hanya dilatih dalam prosa, tetapi juga dalam puisi. Anda dapat memeriksa pekerjaan di bot Telegram "Neuropoet" . Anda hanya perlu menulis baris pertama atau beberapa baris, dan sistem akan mengerjakan sisanya. Kami cek, ternyata biasa saja.
Jaringan saraf mengubah baris pertama Pushkin menjadi kumpulan teks yang tidak dapat dipahami, di mana motif militer dapat ditebak. Dan jika gambar individu dapat dianggap berhasil ("Oak meminta roti dari musim semi" atau "Bunga musim semi di musim semi"), maka gambar lainnya menyebabkan tatap muka.
Sebuah analogi dapat ditarik dengan teori monyet tak berujung yang, dengan menekan tombol acak pada mesin tik untuk jangka waktu yang tak terbatas, cepat atau lambat akan menulis "War and Peace."
Jaringan saraf di sini bertindak seperti monyet, yang, alih-alih huruf-huruf, menyusun kata dan gambar, tetapi kebanyakan berubah menjadi acak.
Faktanya, banyak pengembang telah membuat generator puisi berbasis GPT-2. Misalnya, berikut adalah varian generator lirik bahasa Inggris yang menggunakan database ringan yang terdiri dari 13.000 ayat.
Dia juga menghasilkan sesuatu yang tidak terlalu bisa dipahami:
Sedangkan untuk buku fiksi, situasinya bahkan lebih buruk. Ini sudah diduga, karena jaringan saraf tidak tahu cara membuat plot dan tidak tahu apa plot atau klimaksnya. Tetapi dari beberapa percobaan, permainan yang dipilih seperti itu diperoleh yang hanya bisa mengejutkan.
Bagaimana Anda menyukai sesuatu seperti fiksi porno Alkitab? Esai berjudul "The Orange Erotic Bible" telah diposting oleh pengembang yang tidak dikenal... Itu dibuat oleh jaringan saraf berdasarkan GPT-2 yang sama, tetapi mereka melatihnya pada novel dan cerita erotis, dan kemudian memberikan kutipan dari Alkitab sebagai titik awal untuk generasi. Ceritanya ternyata panjang - lebih dari 60.000 kata. Dan hasilnya mengejutkan, secara halus.
Inilah sebagian kecil dari ceritanya. Dan tidak, kami tidak akan menerjemahkannya.
Bahkan ada toko online untuk buku-buku yang ditulis oleh AI . Ini terlihat sangat menyeramkan. Karena sampul buku juga dibuat dengan mesin.
Benar, penciptanya mengakui bahwa mereka hanya menjual 19 eksemplar buku. Jika kualitasnya secara kasar menyerupai "Orange Bible", maka kami sama sekali tidak terkejut. Penulis bisa tidur nyenyak untuk saat ini.
Atau tidak?
Semua contoh sebelumnya hanya berurusan dengan GPT-2, dan mereka biasa saja.
Tapi sudah ada penyair jaringan saraf berdasarkan algoritma GPT-3. Dan itu menunjukkan beberapa hasil yang cukup menarik.
Jaringan saraf dapat menulis puisi dengan gaya tertentu dan topik tertentu. Arram Sabeti, CEO dari proyek ZeroCater, telah melakukan percobaan di mana dia menghasilkan pertanyaan jaringan saraf yang menanyakan tentang ayat dan gaya. Mesin itu mengerjakan sisanya.
Ini salah satu permintaannya:
Ini puisi oleh Dr. Seuss tentang Elon Musk meluncurkan roket dengan SpaceX, membangun mobil listrik di Tesla, menjual pelempar api, berkencan dengan Grimes, melawan SEC, menghancurkan penjual pendek, membangun chip otak untuk melawan AI, dan menjajah mars, dan tweet setiap saat siang dan malam ... Musk ingin membuat manusia antar planet untuk mencegah kepunahan. Puisi itu berima setiap baris dengan struktur ABAB. Struktur rima adalah tipikal Dr. Lagu anak-anak Seuss.
Ayat itu ternyata lucu. Benar. Meskipun ada ketidakakuratan yang jelas dalam ritme dan tiang dengan sajak, itu masuk akal. Itu panjang, jadi kami hanya akan memasukkan satu bagian saja di sini.
Elon Musk
By Dr. Seuss
Once there was a man
who really was a Musk.
He liked to build robots
and rocket ships and such.
He said, “I’m building a car
that’s electric and cool.
I’ll bet it outsells those
Gasoline-burning clunkers soon!”
They sell cool cars
that are electric and clean.
And then he wanted to go
even farther, you see.
The first Tesla, Roadster,
Was just the start of a bigger dream.
He said, “I’m building a plane
that’s electric and green”.
Kemajuan luar biasa dibandingkan dengan versi algoritme sebelumnya. Ini bukan kumpulan frasa yang tidak koheren, tetapi puisi yang cukup bagus dalam strukturnya. Ya, cita-citanya masih jauh, sajaknya lemah, dan ritmenya timpang, tetapi sudah pada tahap ini Anda sangat terkejut bahwa mesin yang menciptakannya.
Beberapa gambar dan frasa memang indah. Misalnya, "clunker yang membakar bensin" - "clunker bensin". Jika Anda tidak tahu bahwa itu ditulis oleh mesin, maka Anda mungkin berpikir bahwa ini adalah ciptaan seorang anak sekolah yang memutuskan untuk menulis puisi tentang idolanya.
Dan sial, itu keren.
Anda dapat membaca versi lengkap dari ayat tersebut dan kreasi jaringan saraf lainnya di sini .
***
Hanya ada sedikit eksperimen dengan GPT-3 dalam hal menulis puisi atau cerita fiksi, jadi Anda harus puas hanya dengan ini. Tetapi jika jaringan saraf telah maju begitu banyak dalam menciptakan teks yang bermakna, maka sangat mungkin bahwa ia akan segera dapat menulis karya seni yang cukup mudah dibaca.
Mungkin bukan GPT-3, tetapi beberapa GPT-4 atau bahkan GPT-5, tetapi dinamika perkembangannya jelas ada. Sekarang jaringan saraf dapat menulis artikel teknis, berita, cerita pendek, atau puisi.
Dan dengan perkembangan algoritma lebih lanjut, kualitas teks yang dihasilkan hanya akan tumbuh. Jadi ya, AI bisa menulis seperti manusia. Sejauh ini, di level pelajar, tapi mari kita lihat bagaimana jadinya dalam 10-20 tahun. Dan apa yang kamu pikirkan?
Sekolah online EnglishDom.com - kami menginspirasi untuk belajar bahasa Inggris melalui teknologi dan perawatan manusia
Hanya untuk pembaca Habr, pelajaran pertama dengan seorang guru di Skype gratis ! Dan saat membeli kelas, Anda akan menerima hingga 3 pelajaran sebagai hadiah!
Dapatkan langganan premium ED Words sebulan penuh sebagai hadiah .
Masukkan neurowriter kode promo di halaman ini atau langsung di aplikasi ED Words . Kode promo berlaku sampai 29/9/2021.
Produk kita:
- Pelajari kata-kata bahasa Inggris di aplikasi seluler ED Words
- Belajar bahasa Inggris dari A sampai Z di aplikasi seluler Kursus ED
- Instal ekstensi untuk Google Chrome, terjemahkan kata-kata bahasa Inggris di Internet dan tambahkan untuk dipelajari di aplikasi Ed Words
- Belajar bahasa Inggris dengan cara yang menyenangkan di simulator online
- Perkuat keterampilan berbicara Anda dan temukan teman di klub percakapan
- YouTube- EnglishDom