Datasets:

TaigoPedrosa
/

PortugueseMMLU

area stringclasses 4 values	domain stringclasses 57 values	question stringlengths 1 4	translation_method stringclasses 5 values	model stringclasses 4 values	generated_text stringlengths 1 150	extracted_answer stringclasses 6 values	expected_answer stringclasses 4 values	is_correct bool 2 classes
Humanities	Formal Logic	0	English	Gemma 3 12B	Answer: D	D	D	true
Humanities	Formal Logic	0	English	Llama 3.1 8B	The best answer is D.	D	D	true
Humanities	Formal Logic	0	English	Qwen 2.5 7B	D	D	D	true
Humanities	Formal Logic	0	GPT-3.5-Turbo	Gemma 3 12B	Resposta: D	D	D	true
Humanities	Formal Logic	0	GPT-3.5-Turbo	Llama 3.1 8B	Resposta: D	D	D	true
Humanities	Formal Logic	0	GPT-3.5-Turbo	Qwen 2.5 7B	C	C	D	false
Humanities	Formal Logic	0	GPT-3.5-Turbo	Sabiá 3	Resposta: C	C	D	false
Humanities	Formal Logic	0	GPT-4o	Gemma 3 12B	Resposta: D	D	D	true
Humanities	Formal Logic	0	GPT-4o	Llama 3.1 8B	Resposta: D	D	D	true
Humanities	Formal Logic	0	GPT-4o	Qwen 2.5 7B	C	C	D	false
Humanities	Formal Logic	0	GPT-4o	Sabiá 3	Resposta: C	C	D	false
Humanities	Formal Logic	0	Google Translate	Gemma 3 12B	Resposta: D	D	D	true
Humanities	Formal Logic	0	Google Translate	Llama 3.1 8B	Resposta: D	D	D	true
Humanities	Formal Logic	0	Google Translate	Qwen 2.5 7B	C	C	D	false
Humanities	Formal Logic	0	Google Translate	Sabiá 3	Resposta: C	C	D	false
Humanities	Formal Logic	0	Human	Gemma 3 12B	Resposta: D	D	D	true
Humanities	Formal Logic	0	Human	Llama 3.1 8B	Resposta: D	D	D	true
Humanities	Formal Logic	0	Human	Qwen 2.5 7B	D	D	D	true
Humanities	Formal Logic	0	Human	Sabiá 3	Resposta: C	C	D	false
Humanities	Formal Logic	1	English	Gemma 3 12B	Answer: B	B	A	false
Humanities	Formal Logic	1	English	Llama 3.1 8B	The best answer is B.	B	A	false
Humanities	Formal Logic	1	English	Qwen 2.5 7B	A	A	A	true
Humanities	Formal Logic	1	GPT-3.5-Turbo	Gemma 3 12B	Resposta: B	B	A	false
Humanities	Formal Logic	1	GPT-3.5-Turbo	Llama 3.1 8B	Resposta: B	B	A	false
Humanities	Formal Logic	1	GPT-3.5-Turbo	Qwen 2.5 7B	B	B	A	false
Humanities	Formal Logic	1	GPT-3.5-Turbo	Sabiá 3	Resposta: A	A	A	true
Humanities	Formal Logic	1	GPT-4o	Gemma 3 12B	Resposta: B	B	A	false
Humanities	Formal Logic	1	GPT-4o	Llama 3.1 8B	Resposta: B	B	A	false
Humanities	Formal Logic	1	GPT-4o	Qwen 2.5 7B	B	B	A	false
Humanities	Formal Logic	1	GPT-4o	Sabiá 3	Resposta: B	B	A	false
Humanities	Formal Logic	1	Google Translate	Gemma 3 12B	Resposta: B	B	A	false
Humanities	Formal Logic	1	Google Translate	Llama 3.1 8B	Resposta: B	B	A	false
Humanities	Formal Logic	1	Google Translate	Qwen 2.5 7B	B	B	A	false
Humanities	Formal Logic	1	Google Translate	Sabiá 3	Resposta: A	A	A	true
Humanities	Formal Logic	1	Human	Gemma 3 12B	Resposta: B	B	A	false
Humanities	Formal Logic	1	Human	Llama 3.1 8B	Resposta: B	B	A	false
Humanities	Formal Logic	1	Human	Qwen 2.5 7B	B	B	A	false
Humanities	Formal Logic	1	Human	Sabiá 3	Resposta: A	A	A	true
Humanities	Formal Logic	10	English	Gemma 3 12B	Answer: A	A	A	true
Humanities	Formal Logic	10	English	Llama 3.1 8B	The best answer is A.	A	A	true
Humanities	Formal Logic	10	English	Qwen 2.5 7B	A	A	A	true
Humanities	Formal Logic	10	GPT-3.5-Turbo	Gemma 3 12B	Resposta: A	A	A	true
Humanities	Formal Logic	10	GPT-3.5-Turbo	Llama 3.1 8B	Resposta: A	A	A	true
Humanities	Formal Logic	10	GPT-3.5-Turbo	Qwen 2.5 7B	A. (∀x)[Kx ⊃ (∀y)(Py ⊃ Lxy)]	A	A	true
Humanities	Formal Logic	10	GPT-3.5-Turbo	Sabiá 3	Resposta: A Explicação: A frase "Todos os reis são mais sortudos que todos os mendigos" pode ser traduzida para a lógica de predicados da seguinte fo	A	A	true
Humanities	Formal Logic	10	GPT-4o	Gemma 3 12B	Resposta: A	A	A	true
Humanities	Formal Logic	10	GPT-4o	Llama 3.1 8B	Resposta: A	A	A	true
Humanities	Formal Logic	10	GPT-4o	Qwen 2.5 7B	A. (∀x)[Kx ⊃ (∀y)(Py ⊃ Lxy)]	A	A	true
Humanities	Formal Logic	10	GPT-4o	Sabiá 3	Resposta: A Explicação: A tradução correta para a frase "Todos os reis são mais sortudos que todos os pobres" em lógica de predicados é: A. (∀x)[Kx	A	A	true
Humanities	Formal Logic	10	Google Translate	Gemma 3 12B	Resposta: A	A	A	true
Humanities	Formal Logic	10	Google Translate	Llama 3.1 8B	Resposta: A	A	A	true
Humanities	Formal Logic	10	Google Translate	Qwen 2.5 7B	A. (∀x)[Kx ⊃ (∀y)(Py ⊃ Lxy)]	A	A	true
Humanities	Formal Logic	10	Google Translate	Sabiá 3	Resposta: A Explicação: A tradução correta para a frase "Todos os reis têm mais sorte do que todos os pobres" em lógica de predicados é: A. (∀x)[Kx	A	A	true
Humanities	Formal Logic	10	Human	Gemma 3 12B	Resposta: A	A	A	true
Humanities	Formal Logic	10	Human	Llama 3.1 8B	Resposta: A	A	A	true
Humanities	Formal Logic	10	Human	Qwen 2.5 7B	A. (∀x)[Kx ⊃ (∀y)(Py ⊃ Lxy)]	A	A	true
Humanities	Formal Logic	10	Human	Sabiá 3	Resposta: A Explicação: A tradução correta para a frase "Todos os reis têm mais sorte do que todos os pobres" em lógica de predicados é: A. (∀x)[Kx	A	A	true
Humanities	Formal Logic	100	English	Gemma 3 12B	Answer: D	D	D	true
Humanities	Formal Logic	100	English	Llama 3.1 8B	The best answer is C.	C	D	false
Humanities	Formal Logic	100	English	Qwen 2.5 7B	C	C	D	false
Humanities	Formal Logic	100	GPT-3.5-Turbo	Gemma 3 12B	Resposta: C	C	D	false
Humanities	Formal Logic	100	GPT-3.5-Turbo	Llama 3.1 8B	Resposta: C	C	D	false
Humanities	Formal Logic	100	GPT-3.5-Turbo	Qwen 2.5 7B	C	C	D	false
Humanities	Formal Logic	100	GPT-3.5-Turbo	Sabiá 3	Para simbolizar a frase "Ou a importação de carne da Inglaterra é uma condição necessária para a França subsidiar a agricultura ou a promoção dos dire	COT	D	false
Humanities	Formal Logic	100	GPT-4o	Gemma 3 12B	Resposta: D	D	D	true
Humanities	Formal Logic	100	GPT-4o	Llama 3.1 8B	Resposta: C	C	D	false
Humanities	Formal Logic	100	GPT-4o	Qwen 2.5 7B	C	C	D	false
Humanities	Formal Logic	100	GPT-4o	Sabiá 3	Para simbolizar a frase "Ou a importação de carne bovina pela Inglaterra é uma condição necessária para o subsídio à agricultura pela França ou a prom	COT	D	false
Humanities	Formal Logic	100	Google Translate	Gemma 3 12B	Resposta: C	C	D	false
Humanities	Formal Logic	100	Google Translate	Llama 3.1 8B	Resposta: C	C	D	false
Humanities	Formal Logic	100	Google Translate	Qwen 2.5 7B	C	C	D	false
Humanities	Formal Logic	100	Google Translate	Sabiá 3	Para simbolizar a frase "Ou a importação de carne bovina pela Inglaterra é uma condição necessária para a França subsidiar a agricultura ou a promoçã	null	D	false
Humanities	Formal Logic	100	Human	Gemma 3 12B	Resposta: C	C	D	false
Humanities	Formal Logic	100	Human	Llama 3.1 8B	Resposta: C	C	D	false
Humanities	Formal Logic	100	Human	Qwen 2.5 7B	C	C	D	false
Humanities	Formal Logic	100	Human	Sabiá 3	Para simbolizar a frase "Ou a importação de carne bovina pela Inglaterra é uma condição necessária para a agricultura subsidiada da França, ou a China	COT	D	false
Humanities	Formal Logic	101	English	Gemma 3 12B	Answer: D	D	A	false
Humanities	Formal Logic	101	English	Llama 3.1 8B	The best answer is D.	D	A	false
Humanities	Formal Logic	101	English	Qwen 2.5 7B	D	D	A	false
Humanities	Formal Logic	101	GPT-3.5-Turbo	Gemma 3 12B	Resposta: B	B	A	false
Humanities	Formal Logic	101	GPT-3.5-Turbo	Llama 3.1 8B	Resposta: D	D	A	false
Humanities	Formal Logic	101	GPT-3.5-Turbo	Qwen 2.5 7B	B	B	A	false
Humanities	Formal Logic	101	GPT-3.5-Turbo	Sabiá 3	Resposta: A A melhor interpretação em inglês dos argumentos dados na lógica predicativa é: A. Ou Nancy ou Marvin estão no trabalho. Todos os advogad	A	A	true
Humanities	Formal Logic	101	GPT-4o	Gemma 3 12B	Resposta: D	D	A	false
Humanities	Formal Logic	101	GPT-4o	Llama 3.1 8B	Resposta: A	A	A	true
Humanities	Formal Logic	101	GPT-4o	Qwen 2.5 7B	A	A	A	true
Humanities	Formal Logic	101	GPT-4o	Sabiá 3	Resposta: D A melhor interpretação em inglês dos argumentos dados é: D. Ou Nancy ou Marvin estão no trabalho. Todos os advogados não estão no trabal	D	A	false
Humanities	Formal Logic	101	Google Translate	Gemma 3 12B	Resposta: A	A	A	true
Humanities	Formal Logic	101	Google Translate	Llama 3.1 8B	Resposta: D	D	A	false
Humanities	Formal Logic	101	Google Translate	Qwen 2.5 7B	A	A	A	true
Humanities	Formal Logic	101	Google Translate	Sabiá 3	Resposta: D A melhor interpretação em inglês dos argumentos fornecidos na lógica de predicados é: D. Nancy ou Marvin estão no trabalho. Todos os adv	D	A	false
Humanities	Formal Logic	101	Human	Gemma 3 12B	Resposta: D	D	A	false
Humanities	Formal Logic	101	Human	Llama 3.1 8B	Resposta: A	A	A	true
Humanities	Formal Logic	101	Human	Qwen 2.5 7B	A	A	A	true
Humanities	Formal Logic	101	Human	Sabiá 3	Resposta: A Vamos interpretar cada parte do argumento: 1. \( Wn ∨ Wm \): Ou Nancy ou Marvin estão no trabalho. 2. \( (∀x)[Lx ⊃ (Dx ⊃ ~Wx)] \): Para	A	A	true
Humanities	Formal Logic	102	English	Gemma 3 12B	Answer: A	A	A	true
Humanities	Formal Logic	102	English	Llama 3.1 8B	The best answer is A.	A	A	true
Humanities	Formal Logic	102	English	Qwen 2.5 7B	A	A	A	true
Humanities	Formal Logic	102	GPT-3.5-Turbo	Gemma 3 12B	Resposta: A	A	A	true
Humanities	Formal Logic	102	GPT-3.5-Turbo	Llama 3.1 8B	Resposta: A	A	A	true

End of preview. Expand in Data Studio

Dataset Components

The dataset is partitioned into three discrete tables stored in CSV or Parquet format:

Questions
Recipes
Evaluation Results

Each component is described in detail below.

Questions

area
domain
question_number

An integer index uniquely identifying each question inside the knowledge domain.
translation_method

English, Google Translate, GPT-3.5-Turbo, GPT-4o, Human
question
option_a, option_b, option_c, option_d

Recipes

area
domain
question

An integer index corresponding to the target question number (identical to question_number in Questions).
seed

The random seed employed to select the five example questions.
1st_shot, 2nd_shot, 3rd_shot, 4th_shot, 5th_shot

Integer indices (question numbers) of the five example questions used. All five example indices belong to the same domain as the target question.

Evaluation Results

area
domain
question
translation_method
model
generated_text
extracted_answer
expected_answer
is_correct

Downloads last month: 21

Size of downloaded dataset files:

14.7 MB

Size of the auto-converted Parquet files:

14.7 MB

Number of rows:

351,050