Método no webservice para informar resultados de modelagem

[gmgall]

Assim como temos um método no webservice para mudarmos o status de um experimento
(de Liberado para Em processamento por exemplo), sugiro criarmos um para informarmos os resultados de um experimento.

Ele pode receber as informaçes via HTTP POST:

idexperiment: a684eceee76fc522773286a895bc8436
kappa: 0.09080909
algoritmo: BioClim
partition: 3
raster_path: http://buriti.lncc.br/modelr_demo/a684eceee76fc522773286a895bc8436/Zygia%20latifolia%20(L.)%20Fawc.%20&%20Rendle/BioClim_cont_Zygia%20latifolia%20(L.)%20Fawc.%20&%20Rendle_3.tif

Processar os dados de uma requisição POST não é complicado no PHP se me recordo corretamente.
Só não saberia exatamente se é o melhor método HTTP para fazermos isso (semanticamente falando).

Estão faltando vários campos acima e raster_path poderia ser relativo. Estou passando um exemplo absoluto só para expor a ideia.

[rafaeloliveiralima]

Sugestão

CREATE TABLE modelr.experiment_result
(
idexperiment_result serial NOT NULL,
idexperiment integer,
idresulttype integer,
file_tiff character varying(255),
file_png character varying(255),
partition integer,
algorithm character varying(100),
"TSS" numeric(10,5),
"AUC" numeric(10,5),
sensitivity numeric(10,5),
equal_sens_spec numeric(10,5),
prevalence numeric(10,5),
no_omission integer,
spec_sens numeric(10,5),
CONSTRAINT experiment_result_pkey PRIMARY KEY (idexperiment_result),
CONSTRAINT fk_experimento_result FOREIGN KEY (idexperiment)
REFERENCES modelr.experiment (idexperiment) MATCH SIMPLE
ON UPDATE CASCADE ON DELETE RESTRICT,
CONSTRAINT fk_resulttype2 FOREIGN KEY (idresulttype)
REFERENCES modelr.resulttype (idresulttype) MATCH SIMPLE
ON UPDATE CASCADE ON DELETE RESTRICT
)

[gmgall]

Vamos discutir os argumentos necessários nesse método a seguir.

[gmgall]

Listando com calma todos os campos que julgo necessário para esse método:

1. Dados em ensemble

• kappa
• spec_sens
• no_omission
• prevalence
• equal_sens_spec
• sensitivity
• AUC
• TSS
• algoritmo
• partition

2. Path para os arquivos gerados

• raster_bin_path
• raster_cont_path
• raster_cut_path

Esqueci alguma coisa?

---

Um método para informar o resultado gerado por finalModel() e outro o gerado por ensemble() também será necessário.

[rafaeloliveiralima]

atualização do ws com os novos campos para armazenar os raster.
@gmgall para informar os modelos gerados pelo finalModel() e pelo ensemble() basta criar um novo registro e alterar o idresulttype para 2 ou 3;

segue a descrição do serviço.

Pode ser enviado por GET ou POST
https://model-r.jbrj.gov.br/ws/setresult.php?op=E&id=15&idresulttype=2

Parâmetros obrigatórios:

id -> ID do experimento;
op -> operação {I - Incluir e A - Alterar)
idresulttype -> O que está sendo armazenado (1;"Partições"
2;"Modelos Finais"
3;"Essembles"
4;"Outros"
)

demais parâmetros:

partition -> numero da partição para idresulttype =1
algorithm-> algoritmo;
tss -> tss;
auc -> auc;
sensitivit ->
equal_sens_spec ->
prevalence ->
no_omission ->
spec_sens ->
kappa ->,
raster_cut_path ->
png_bin_path ->,
png_cont_path ->
png_cut_path ->

[gmgall]

Eu fiz um teste via POST e não sei se ele foi bem sucedido.

Em Python fiz o seguinte:

>>> import urllib
>>> params = {'id': '68', 'op': 'I', 'idresulttype': '1', 'partition': '1', 'algorithm': 'BioClim', 'kappa': '0.07884737', 'spec_sens': '0.07884737', 'no_omission': '-1e-04', 'prevalence': '0.42095263', 'equal_sens_spec': '0.03498772', 'sensitivity': '0.01744386', 'auc': '0.847095283117975', 'tss': '0.573221977098435', 'raster_cut_path': 'teste', 'png_bin_path': 'teste', 'png_cont_path': 'teste', 'png_cut_path': 'teste'}
>>> query = urllib.urlencode(params)
>>> url = 'https://model-r.jbrj.gov.br/ws/setresult.php'
>>> f = urllib.urlopen(url, query)
>>> f.close()
>>> print contents
{"experiment":[{"id":"68","op": "1","msg": ""}]}

Funcionou? Pela resposta parece que não.

[rafaeloliveiralima]

os valores numericos no banco estao com 5 casas decimais. vou alterar Obter o Outlook para iOS On Thu, Sep 14, 2017 at 1:54 PM -0300, "Guilherme Gall" <notifications@github.com> wrote: Eu fiz um teste e não sei se ele foi bem sucedido. Em Python fiz o seguinte:

>> import urllib >> params = {'id': '68', 'op': 'I', 'idresulttype': '1', 'partition': '1', 'algorithm': 'BioClim', 'kappa': '0.07884737', 'spec_sens': '0.07884737', 'no_omission': '-1e-04', 'prevalence': '0.42095263', 'equal_sens_spec': '0.03498772', 'sensitivity': '0.01744386', 'auc': '0.847095283117975', 'tss': '0.573221977098435', 'raster_cut_path': 'teste', 'png_bin_path': 'teste', 'png_cont_path': 'teste', 'png_cut_path': 'teste'} >> query = urllib.urlencode(params) >> url = 'https://model-r.jbrj.gov.br/ws/setresult.php' >> f = urllib.urlopen(url, query) >> f.close() >> print contents

{"experiment":[{"id":"68","op": "1","msg": ""}]} Funcionou? Pela resposta parece que não. — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or mute the thread.

[rafaeloliveiralima]

nao sei como k banco trata a entrada de valores com notação científica -1e-04. os demais campos alterei. faca mais um teste para verificar Obter o Outlook para iOS On Thu, Sep 14, 2017 at 1:57 PM -0300, <rafaeloliveiralima@ibest.com.br> wrote: os valores numericos no banco estao com 5 casas decimais. vou alterar Obter o Outlook para iOS On Thu, Sep 14, 2017 at 1:54 PM -0300, "Guilherme Gall" <notifications@github.com> wrote: Eu fiz um teste e não sei se ele foi bem sucedido. Em Python fiz o seguinte:

>> import urllib >> params = {'id': '68', 'op': 'I', 'idresulttype': '1', 'partition': '1', 'algorithm': 'BioClim', 'kappa': '0.07884737', 'spec_sens': '0.07884737', 'no_omission': '-1e-04', 'prevalence': '0.42095263', 'equal_sens_spec': '0.03498772', 'sensitivity': '0.01744386', 'auc': '0.847095283117975', 'tss': '0.573221977098435', 'raster_cut_path': 'teste', 'png_bin_path': 'teste', 'png_cont_path': 'teste', 'png_cut_path': 'teste'} >> query = urllib.urlencode(params) >> url = 'https://model-r.jbrj.gov.br/ws/setresult.php' >> f = urllib.urlopen(url, query) >> f.close() >> print contents

{"experiment":[{"id":"68","op": "1","msg": ""}]} Funcionou? Pela resposta parece que não. — You are receiving this because you commented. Reply to this email directly, view it on GitHub, or mute the thread.

[rafaeloliveiralima]

Fiz os ajustes no banco para aceitar os valores numéricos passados e funcionou.
@gmgall rode novamente que deverá aparecer a mensagem

{"experiment":[{"id":"68","op": "I","msg": "Adicionado com sucesso"}]}

[gmgall]

Agora recebi uma resposta de sucesso:

>>> params = {'id': '68', 'op': 'I', 'idresulttype': '1', 'partition': '1', 'algorithm': 'BioClim', 'kappa': '0.07884737', 'spec_sens': '0.07884737', 'no_omission': '-1e-04', 'prevalence': '0.42095263', 'equal_sens_spec': '0.03498772', 'sensitivity': '0.01744386', 'auc': '0.847095283117975', 'tss': '0.573221977098435', 'raster_cut_path': 'teste', 'png_bin_path': 'teste', 'png_cont_path': 'teste', 'png_cut_path': 'teste'}
>>> query = urllib.urlencode(params)
>>> f = urllib.urlopen(url, query)
>>> contents = f.read()
>>> print contents
{"experiment":[{"id":"68","op": "I","msg": "Adicionado com sucesso"}]}
>>> f.close()

Confirma a escrita no banco?

[rafaeloliveiralima]

@gmgall Confirmado! Sucesso!!!!

[gmgall]

Ok, confirmando se entendi como usar o método.

Para uma modelagem como o resultado abaixo (arquivos .txt omitidos por brevidade)

$ tree -I '*txt' Eugenia\ florida\ DC./
Eugenia florida DC./
├── BioClim_bin_Eugenia florida DC._1.tif
├── BioClim_bin_Eugenia florida DC._2.tif
├── BioClim_bin_Eugenia florida DC._3.tif
├── BioClim_cont_Eugenia florida DC._1.tif
├── BioClim_cont_Eugenia florida DC._2.tif
├── BioClim_cont_Eugenia florida DC._3.tif
├── BioClim_cut_Eugenia florida DC._1.tif
├── BioClim_cut_Eugenia florida DC._2.tif
├── BioClim_cut_Eugenia florida DC._3.tif
├── BioclimEugenia florida DC._1001.png
├── BioclimEugenia florida DC._1002.png
├── BioclimEugenia florida DC._1003.png
├── BioclimEugenia florida DC._2001.png
├── BioclimEugenia florida DC._2002.png
├── BioclimEugenia florida DC._2003.png
├── BioclimEugenia florida DC._3001.png
├── BioclimEugenia florida DC._3002.png
├── BioclimEugenia florida DC._3003.png
├── Domain_bin_Eugenia florida DC._1.tif
├── Domain_bin_Eugenia florida DC._2.tif
├── Domain_bin_Eugenia florida DC._3.tif
├── Domain_cont_Eugenia florida DC._1.tif
├── Domain_cont_Eugenia florida DC._2.tif
├── Domain_cont_Eugenia florida DC._3.tif
├── Domain_cut_Eugenia florida DC._1.tif
├── Domain_cut_Eugenia florida DC._2.tif
├── Domain_cut_Eugenia florida DC._3.tif
├── DomainEugenia florida DC._1001.png
├── DomainEugenia florida DC._1002.png
├── DomainEugenia florida DC._1003.png
├── DomainEugenia florida DC._2001.png
├── DomainEugenia florida DC._2002.png
├── DomainEugenia florida DC._2003.png
├── DomainEugenia florida DC._3001.png
├── DomainEugenia florida DC._3002.png
├── DomainEugenia florida DC._3003.png
├── ensemble
│   ├── Eugenia florida DC._Final.bin.mean3_ensemble.png
│   ├── Eugenia florida DC._Final.bin.mean3_ensemble.tif
│   ├── Eugenia florida DC._Final.mean.bin7_ensemble.png
│   └── Eugenia florida DC._Final.mean.bin7_ensemble.tif
├── glm_bin_Eugenia florida DC._1.tif
├── glm_bin_Eugenia florida DC._2.tif
├── glm_bin_Eugenia florida DC._3.tif
├── glm_cont_Eugenia florida DC._1.tif
├── glm_cont_Eugenia florida DC._2.tif
├── glm_cont_Eugenia florida DC._3.tif
├── glm_cut_Eugenia florida DC._1.tif
├── glm_cut_Eugenia florida DC._2.tif
├── glm_cut_Eugenia florida DC._3.tif
├── glmEugenia florida DC._1001.png
├── glmEugenia florida DC._1002.png
├── glmEugenia florida DC._1003.png
├── glmEugenia florida DC._2001.png
├── glmEugenia florida DC._2002.png
├── glmEugenia florida DC._2003.png
├── glmEugenia florida DC._3001.png
├── glmEugenia florida DC._3002.png
├── glmEugenia florida DC._3003.png
├── Mahal_bin_Eugenia florida DC._1.tif
├── Mahal_bin_Eugenia florida DC._2.tif
├── Mahal_bin_Eugenia florida DC._3.tif
├── Mahal_cont_Eugenia florida DC._1.tif
├── Mahal_cont_Eugenia florida DC._2.tif
├── Mahal_cont_Eugenia florida DC._3.tif
├── Mahal_cut_Eugenia florida DC._1.tif
├── Mahal_cut_Eugenia florida DC._2.tif
├── Mahal_cut_Eugenia florida DC._3.tif
├── MahalEugenia florida DC._1001.png
├── MahalEugenia florida DC._1002.png
├── MahalEugenia florida DC._1003.png
├── MahalEugenia florida DC._2001.png
├── MahalEugenia florida DC._2002.png
├── MahalEugenia florida DC._2003.png
├── MahalEugenia florida DC._3001.png
├── MahalEugenia florida DC._3002.png
├── MahalEugenia florida DC._3003.png
├── maxent_bin_Eugenia florida DC._1.tif
├── maxent_bin_Eugenia florida DC._2.tif
├── maxent_bin_Eugenia florida DC._3.tif
├── maxent_cont_Eugenia florida DC._1.tif
├── maxent_cont_Eugenia florida DC._2.tif
├── maxent_cont_Eugenia florida DC._3.tif
├── maxent_cut_Eugenia florida DC._1.tif
├── maxent_cut_Eugenia florida DC._2.tif
├── maxent_cut_Eugenia florida DC._3.tif
├── maxentEugenia florida DC._1001.png
├── maxentEugenia florida DC._1002.png
├── maxentEugenia florida DC._1003.png
├── maxentEugenia florida DC._2001.png
├── maxentEugenia florida DC._2002.png
├── maxentEugenia florida DC._2003.png
├── maxentEugenia florida DC._3001.png
├── maxentEugenia florida DC._3002.png
├── maxentEugenia florida DC._3003.png
├── presfinal
│   ├── Final.bin.mean3Eugenia florida DC.BioClim.png
│   ├── Final.bin.mean3Eugenia florida DC.BioClim.tif
│   ├── Final.bin.mean3Eugenia florida DC.Domain.png
│   ├── Final.bin.mean3Eugenia florida DC.Domain.tif
│   ├── Final.bin.mean3Eugenia florida DC.glm.png
│   ├── Final.bin.mean3Eugenia florida DC.glm.tif
│   ├── Final.bin.mean3Eugenia florida DC.Mahal.png
│   ├── Final.bin.mean3Eugenia florida DC.Mahal.tif
│   ├── Final.bin.mean3Eugenia florida DC.maxent.png
│   ├── Final.bin.mean3Eugenia florida DC.maxent.tif
│   ├── Final.bin.mean3Eugenia florida DC.rf.png
│   ├── Final.bin.mean3Eugenia florida DC.rf.tif
│   ├── Final.bin.mean3Eugenia florida DC.svm2.png
│   ├── Final.bin.mean3Eugenia florida DC.svm2.tif
│   ├── Final.bin.mean3Eugenia florida DC.svm.png
│   ├── Final.bin.mean3Eugenia florida DC.svm.tif
│   ├── Final.mean.bin7Eugenia florida DC.BioClim.png
│   ├── Final.mean.bin7Eugenia florida DC.BioClim.tif
│   ├── Final.mean.bin7Eugenia florida DC.Domain.png
│   ├── Final.mean.bin7Eugenia florida DC.Domain.tif
│   ├── Final.mean.bin7Eugenia florida DC.glm.png
│   ├── Final.mean.bin7Eugenia florida DC.glm.tif
│   ├── Final.mean.bin7Eugenia florida DC.Mahal.png
│   ├── Final.mean.bin7Eugenia florida DC.Mahal.tif
│   ├── Final.mean.bin7Eugenia florida DC.maxent.png
│   ├── Final.mean.bin7Eugenia florida DC.maxent.tif
│   ├── Final.mean.bin7Eugenia florida DC.rf.png
│   ├── Final.mean.bin7Eugenia florida DC.rf.tif
│   ├── Final.mean.bin7Eugenia florida DC.svm2.png
│   ├── Final.mean.bin7Eugenia florida DC.svm2.tif
│   ├── Final.mean.bin7Eugenia florida DC.svm.png
│   └── Final.mean.bin7Eugenia florida DC.svm.tif
├── rf_bin_Eugenia florida DC._1.tif
├── rf_bin_Eugenia florida DC._2.tif
├── rf_bin_Eugenia florida DC._3.tif
├── rf_cont_Eugenia florida DC._1.tif
├── rf_cont_Eugenia florida DC._2.tif
├── rf_cont_Eugenia florida DC._3.tif
├── rf_cut_Eugenia florida DC._1.tif
├── rf_cut_Eugenia florida DC._2.tif
├── rf_cut_Eugenia florida DC._3.tif
├── rfEugenia florida DC._1001.png
├── rfEugenia florida DC._1002.png
├── rfEugenia florida DC._1003.png
├── rfEugenia florida DC._2001.png
├── rfEugenia florida DC._2002.png
├── rfEugenia florida DC._2003.png
├── rfEugenia florida DC._3001.png
├── rfEugenia florida DC._3002.png
├── rfEugenia florida DC._3003.png
├── svm2_bin_Eugenia florida DC._1.tif
├── svm2_bin_Eugenia florida DC._2.tif
├── svm2_bin_Eugenia florida DC._3.tif
├── svm2_cont_Eugenia florida DC._1.tif
├── svm2_cont_Eugenia florida DC._2.tif
├── svm2_cont_Eugenia florida DC._3.tif
├── svm2_cut_Eugenia florida DC._1.tif
├── svm2_cut_Eugenia florida DC._2.tif
├── svm2_cut_Eugenia florida DC._3.tif
├── svm2Eugenia florida DC._1001.png
├── svm2Eugenia florida DC._1002.png
├── svm2Eugenia florida DC._1003.png
├── svm2Eugenia florida DC._2001.png
├── svm2Eugenia florida DC._2002.png
├── svm2Eugenia florida DC._2003.png
├── svm2Eugenia florida DC._3001.png
├── svm2Eugenia florida DC._3002.png
├── svm2Eugenia florida DC._3003.png
├── svm_bin_Eugenia florida DC._1.tif
├── svm_bin_Eugenia florida DC._2.tif
├── svm_bin_Eugenia florida DC._3.tif
├── svm_cont_Eugenia florida DC._1.tif
├── svm_cont_Eugenia florida DC._2.tif
├── svm_cont_Eugenia florida DC._3.tif
├── svm_cut_Eugenia florida DC._1.tif
├── svm_cut_Eugenia florida DC._2.tif
├── svm_cut_Eugenia florida DC._3.tif
├── svmEugenia florida DC._1001.png
├── svmEugenia florida DC._1002.png
├── svmEugenia florida DC._1003.png
├── svmEugenia florida DC._2001.png
├── svmEugenia florida DC._2002.png
├── svmEugenia florida DC._2003.png
├── svmEugenia florida DC._3001.png
├── svmEugenia florida DC._3002.png
└── svmEugenia florida DC._3003.png

Para informar cada partição, faço um post como o abaixo:

>>> params = {'id': '68',
'op': 'I',
'idresulttype': '1',
'partition': '1',
'algorithm': 'BioClim',
'kappa': '0.07884737',
'spec_sens': '0.07884737',
'no_omission': '-1e-04',
'prevalence': '0.42095263',
'equal_sens_spec': '0.03498772',
'sensitivity': '0.01744386',
'auc': '0.847095283117975',
'tss': '0.573221977098435',
'raster_cut_path': '/path/para/BioClim_cut_Eugenia florida DC._1.tif',
'png_bin_path': '/path/para/BioclimEugenia florida DC._1001.png',
'png_cont_path': '/path/para/BioclimEugenia florida DC._1002.png',
'png_cut_path': '/path/para/BioclimEugenia florida DC._1003.png'}

Isso já foi confirmado que está funcionando. ✅

1️⃣ Mas os arquivos BioClim_bin_Eugenia florida DC._1.tif e BioClim_cont_Eugenia florida DC._1.tif serão ignorados? Apenas o raster_cut_path foi documentado como parâmetro.

2️⃣ Como informar os resultados de finalModel()? Pelo que entendi, é usando 'idresulttype': '2'. Mas qual parâmetro usar para informar os arquivos Final.bin.mean3* e Final.mean.bin7*?

3️⃣ Mesma dúvida para os arquivos gerados por ensemble(): pelo que entendi, é usando 'idresulttype': '3', mas qual parâmetro uso para informar os arquivos *_Final.mean.bin7_ensemble.tif e *_Final.bin.mean3_ensemble.tif?

Forneça um exemplo dado os resultados de modelagem acima, iria ficar mais claro.

[rafaeloliveiralima]

@gmgall
Para cada modelo gerado (raster) a estrutura criada para armazenar é a seguinte:
idexperiment , idresulttype , partition , algorithm , tss, auc , sensitivity , equal_sens_spec ,
prevalence , no_omission , spec_sens, raster_bin_path, raster_cont_path, raster_cut_path,
png_bin_path, png_cont_path, png_cut_path , kappa

BioClim_bin_Eugenia florida DC._1.tif
├── BioClim_bin_Eugenia florida DC._2.tif
├── BioClim_bin_Eugenia florida DC._3.tif
├── BioClim_cont_Eugenia florida DC._1.tif
├── BioClim_cont_Eugenia florida DC._2.tif
├── BioClim_cont_Eugenia florida DC._3.tif
├── BioClim_cut_Eugenia florida DC._1.tif
├── BioClim_cut_Eugenia florida DC._2.tif
├── BioClim_cut_Eugenia florida DC._3.tif

Para esses arquivos a estrutura atende bem. O idresulttype = 1 (partições). Isso também irá funcionar bem para o essemble. Já para os demais eu não havia definido um idresulttype por não saber todos os tipos que seriam gerados.
Criei o código idreusltype = 4 (outros) a idresulttype = 10 (outros 7) para você utilizar como achar melhor. Depois me diga qual código você usou para cada tipo e eu renomeio o registro na tabela.

[gmgall]

Isso responde 1️⃣ da minha mensagem anterior: raster_bin_path e raster_cont_path não haviam sido documentadas a princípio nem aqui na issue nem no markdown com documentação no repositório.

2️⃣ e 3️⃣ continuam sem resposta, ou não entendi o que você quis dizer.

Estou considerando que informo os resultados das funções do_algortimo() via idresulttype = 1, os resultados de finalModel() via idresulttype = 2 e os resultados de ensemble() via idresulttype = 3.

Entendi corretamente?

E se entendi, que parâmetros uso para informar o path dos arquivos Final.bin.mean3* e Final.mean.bin7* (gerados por finalModel()) e dos arquivos *_Final.mean.bin7_ensemble.tif e *_Final.bin.mean3_ensemble.tif (gerados por ensemble())?

Repito o que eu disse na mensagem anterior: forneça um exemplo de como informar os resultados da modelagem que apresentei, isso vai facilitar bastante.

Idealmente, documente todas as funções e seus parâmetros possíveis, com exemplos.