Menggunakan Parameter stop pada Completion Request

Parameter stop berguna untuk menghentikan API mengenerate token lebih lanjut. Text return tidak akan mengandung stop sequence.

Parameter stop dapat berupa single string atau array of string, nilai defaultnya adalah null.

Contoh berikut mungkin kurang tepat, namun dapat menjelaskan bagaimana parameter stop bekerja. (kita dapat membatasi jumlah film yang akan ditampilkan melalui prompt).

import openai
from dotenv import dotenv_values

config = dotenv_values(".env")

openai.api_key = config["OPENAI_KEY"]

response = openai.Completion.create(
    model = "text-davinci-003",
    prompt = "Generate a list of the best movies of all time",
    max_tokens= 200
)

print(response["choices"][0]["text"])

Code diatas akan mengembalikan reponse

1. The Godfather (1972)
2. The Shawshank Redemption (1994)
3. Citizen Kane (1941)
4. Casablanca (1942)
5. Pulp Fiction (1994)
6. Schindler's List (1993)
7. The Lord of the Rings Trilogy (2001-2003)
8. 12 Angry Men (1957)
9. Star Wars: Episode V - The Empire Strikes Back (1980)
10. The Dark Knight (2008)
11. One Flew Over The Cuckoo's Nest (1975)
12. Goodfellas (1990)
13. The Silence of the Lambs (1991)
14. It's A Wonderful Life (1946)
15. Forrest Gump (1994)
16. The Wizard of Oz (1939)
17. Gone With the Wind (1939)
18. Rear Window (1954)
19

Misalnya Anda ingin berhenti ketika terdapat text “5.” Kita dapat gunakan parameter stop=”5.”

response = openai.Completion.create(
     model = "text-davinci-003",
     prompt = "Generate a list of the best movies of all time",
     stop = "5.",
     max_tokens= 200
)

Maka response yang dikembalikan seperti berikut:

1. The Shawshank Redemption (1994)
2. The Godfather (1972)
3. Casablanca (1942)
4. The Godfather: Part II (1974)

Seperti sudah disebutkan sebelumnya, contoh diatas kurang tepat, karena jika tujuannya ingin menampilkan 4 film terbaik sepanjang masa, kita dapat gunakan prompt = “Generate 4 best movies of all time”. Model akan lebih cepat memberikan response dan lebih tepat. Digunakan contoh diatas cukup karena sederhana dan jelas untuk menunjukan apa yang dilakukan oleh parameter stop.

Mungkin contoh yang lebih tepat untuk penggunaan stop adalah ketika Anda ingin mengenerate sebuah essay, dan menghindari kata-kata tertentu, misalnya kata yang rasis, berisi kebencian dan lainnya.