Árvore de páginas

Versões comparadas

Chave

  • Esta linha foi adicionada.
  • Esta linha foi removida.
  • A formatação mudou.

Checklist de configurações a serem realizadas nos ambientes Datasul para mitigar problemas como:

  • Performance
  • Queda de serviços
  • Sobrecarga de servidores
  • Mau funcionamento em geral



Datasul

O quePor queComo
Desativar logs na tabela de Programas do Menu Datasul

Quando ativado, este flag dispara a geração de logs extensos, que podem comprometer o desempenho geral do backend (camada Progress, tanto Client como Appserver/PASOE).

Recomenda-se manter desativado. Somente ativar casos de exceção, mediante alinhamento com a consultoria/suporte.

Em um editor Progress conectado aos bancos de dados:

Para consultar:

output to c:\temp\log_gera_log_exec.txt.
FOR EACH prog_dtsul no-lock:
    IF prog_dtsul.log_gera_log_exec THEN do:
         export prog_dtsul.
    end.
END.
output close.


Para desativar:

FOR EACH prog_dtsul exclusive-lock:
    IF prog_dtsul.log_gera_log_exec THEN do:
         assign prog_dtsul.log_gera_log_exec = false.
    end.
END.

Migrar RPW Clássico para o novo Automação de Tarefas Datasul (Task Manager)Enquanto o RPW Clássico é executado em sessões Client Progress, o novo Automação de Tarefas Datasul (Task Manager) é executado em Appserver/PASOE, tornando a gestão mais simples, estável, incorporando novas funcionalidades e possibilitando a utilização do recurso de Broker Escalável.Detalhes aqui: Configuração Automação de Tarefas Datasul - Novo RPW
Configurar utp/ut-sessionclear.r nos eventos do AppseverEste processo realiza a limpeza da memória dos agentes do Appserver/PASOE ao final de cada requisição, evitando locks, travamentos e sobrecarga de recursos.

Appserver clássico (Progress 11)

No arquivo ubroker.properties, configurar estes parâmetros junto a cada Broker consumido pelo Datasul (menu, Automação de Tarefas Datasul e quaisquer outros processos que utilizem Broker Escalável):

    srvrDisconnProc=utp/ut-apsv-sessionclear.r

    srvrShutdownProc=utp/ut-apsv-sessionclear.r

Na tela do Progress Admin Services, aparece desta forma:

image.png


PASOE (Progress 12)

No arquivo conf/openedge.properties (na instância do PASOE) configurar estes parâmetros:

    sessionDisconnProc=utp/ut-apsv-sessionclear.r
    sessionShutdownProc=utp/ut-apsv-sessionclear.r

Configurar Operating Mode do Appserver (apenas Progress 11)Quando este parâmetro está incorreto, a comunicação entre o Frontend (Tomcat) e o Backend (Appserver) não opera corretamente, podendo causar gargalos, sobrecarga e perda de requisições.

Valor correto (ubroker.properties / Progress Admin Services):

    operatingMode=State-reset

Se o cliente possui aplicações próprias que consomem o Datasul via REST, avaliar utilização do recurso de Broker Escalável

Por exemplo:

Digamos que o cliente possui no seu portal uma funcionalidade para os seus clientes Pessoa Física solicitarem a geração da 2a via de boletos, e que o vencimento é no dia 10 de cada mês.

Isso abre margem para um pico de utilização deste recurso próximo à data de vencimento.

Se a chamada desta customização estiver compartilhando o mesmo Appserver/PASOE do menu do Datasul, poderá ser percebida lentidão/travamento/indisponibilidade do sistema nos momentos de pico.

Com o Broker Escalável, configura-se um Appserver/PASOE dedicado para a customização, sem comprometer o restante da operação.

TOTVS Broker Escalável
Garantir que a variável de ambiente JAVA_HOME esteja corretamente setada no servidor onde é executado o Appserver/PASOEO backend do Datasul possui alguns processos que realizam chamada direta a programas em Java (ex: utils/TotvsCompactador.jar, entre outros). As chamadas dependem desta variável de ambiente para executarem corretamente.

Windows

Definir junto às variáveis de ambiente do sistema.

Ex: JAVA_HOME=c:\Java\jdk-11.0.11


Linux

No Linux cada distro pode possuir particularidades, mas de modo geral as variáveis de ambiente são definidas no arquivo /etc/environment.

Ex: 

JAVA_HOME="/usr/lib/jvm/java-11-openjdk-11.0.14.0.9-1.el7_9.x86_64"

Configurações de performance no script.pf de conexão aos bancos de dadosDiversos parâmetros podem afetar o desempenho do sistema a nível de cache, buffers, tamanho de segmentos de memória, etc.

Resumo dos parâmetros mais impactantes:

-l 50000
-mmax 50000
-s 20000
-Bt 32000
-tmpbsize 8
-q


Mais detalhes aqui: https://centraldeatendimento.totvs.com/hc/pt-br/articles/360034643513-Framework-Linha-Datasul-TEC-Configura%C3%A7%C3%A3o-do-Appserver-Progress-para-o-Datasul-for-THF

Parâmetro -q no script.pf

A presença do parâmetro -q no seu script.pf de conexão as bancos de dados irá aprimorar a performance.

Isso reduzirá no I-O a cada vez que um binário Progress é chamado, pois ele é salvo na memória RAM e reutilizado, sem ser buscado novamente do disco em chamadas posteriores.

Informações
titleATENÇÃO

Ao utilizar esse recurso, tenha ciência que, caso precise atualizar um binário (.r Progress), o ambiente precisará ser reiniciado (Appserver/PASOE, RPW, Sessão Progress) para que a nova versão seja considerada.

Recomenda-se seu uso em ambientes de Produção.

No arquivo.pf de conexão aos bancos de dados, garantir que exista esta linha:

-q
Tamanho dos logs do Appserver (apenas Progress 11)

Muitas vezes o log do Appserver está muito grande (Gigabites), causando alto consumo de I-O, e deteriorando a performance geral do sistema.

Recomenda-se limitar o tamanho máximo de um log de Appserver em 15MB.

Essa mesma técnica pode ser aplicada para o clientlog de sessões Client Progress e RPW.

Atenção também para sempre apontar a geração do arquivo para o disco do mesmo servidor onde o Appserver/PASOE é executado, e não para caminhos de rede, o que pode comprometer o desempenho.

https://knowledgebase.progress.com/articles/Article/000051593

Configurar timeout da sessão

Quando os usuários abrem diversas telas do sistema e esquecem de encerrá-las ao concluírem sua atividade, os recursos do Sistema Operacional (processamento, memória, banco de dados) continuam alocados desnecessariamente.

É importante configurar o Timeout para que as sessões sejam encerradas automaticamente após determinado tempo de inatividade, evitando sobrecarga de recursos.

CFG - Segurança#Timeout
Configurações de performance para deploy do Tomcat

A instalação default do Tomcat prevê a utilização de diversos recursos que não são necessários para o Datasul.

As recomendações deste artigo reduzem consideravelmente o volume de processamento, consumo de recursos e tempo de carga da instância do Tomcat com Datasul

Configuração de Performance Tomcat x Datasul
Avaliar as triggers customizadasÉ importante validar se existem triggers customizadas em tabelas de alto volume de utilização, pois podem comprometer o desempenho geral do sistema, tanto em tempo de processamento como gerando locks desnecessários.

Para consultar as triggers do GPS:

output to c:\temp\dztriggers.txt.
FOR EACH dztriggers no-lock:
         export dztriggers.
END.
output close.


Para consultar as triggers do ERP:

output to c:\temp\tab_dic_dtsul.txt.
FOR EACH tab_dic_dtsul no-lock:
         export tab_dic_dtsul.
END.
output close.


Mais detalhes sobre o procedimento de configuração e ativação de triggers: Instruções_de_Atualização_Versão_GPS

Verificar espaço em disco no servidor do Tomcat

Os diversos aspectos relacionados à gestão dos servidores, inclusive o espaço em disco, são de responsabilidade da infraestrutura do cliente e/ou consultoria de infraestrutura contratada.

Ainda assim, para prevenir esgotamento de disco, algumas orientações úteis podem ser passadas ao cliente:

  • eventualmente eliminar arquivos temporários (por exemplo, durante a aplicação de um patch, aproveitando o momento em que o serviço está desligado):
    • Datasul
      • instancia-tomcat/logs
      • instancia-tomcat/temp
      • instancia-tomcat/work
    • Autorizador Web e Foundation Saúde
      • instancia-jboss/log
      • instancia-jboss/data
      • instancia-jboss/tmp
      • instancia-jboss/work

Cada cliente pode definir sua política de governança dos servidores.

Recomenda-se utilizar serviços de agendamento/cron para realizar o saneamento de arquivos antigos / temporários / desnecessários e garantir que o disco nunca fique esgotado, pois isso ocasionará parada do sistema.

Configurar as permissões do usuário de serviço do Tomcat

Assim como os demais serviços que compõem o produto Datasul, o Tomcat deve ser configurado no servidor do cliente para ser executado com permissão de administrador. Caso falte qualquer permissão de escrita durante a usa execução, implicará em mau funcionamento do sistema.

Isso se aplica tanto para Windows como Linux.


Exemplo que já vimos ocorrer:

caso durante a instalação o usuário estiver com seu próprio login, e não Administrador/root, corre-se o risco de o serviço ficar instalado no sistema operacional com o login do próprio usuário. Isso pode gerar a sensação de que a instalação está funcionando corretamente nos primeiros testes unitários, e apresentar erros de permissão posteriormente, ao subir o serviço em produção.

Por isso, é importante ter atenção especial no momento da configuração.

      • Windows
    • É recomendável configurar explicitamente o administrador do servidor na aba Log On do Serviço do Windows correspondente ao Tomcat do Datasul:

      Esta configuração também pode ser feita por linha de comando (CMD):
    • sc config <NOME_SERVICO_WINDOWS> obj= "<DOMINIO>\<USUARIO>" password= "SENHA"
    • Naturalmente, deve-se garantir que este usuário tenha permissão total de escrita na estrutura de pastas onde o Tomcat está instalado.
       
  • Linux
    •  O grupousuário que controlará o Tomcat deve ser explicitamente identificado no script de start do serviço (exemplo de arquivo.service criado em /etc/systemd/system):


    • O usuário por sua vez deve ter permissão total na estrutura de pastas onde o Tomcat está instalado:
Logs mais relevantes

O Tomcat gera diversos logs, cada um com objetivos diferentes.

A nível de regra de negócio do Datasul, destaca-se o catalina.AAAA-MM-DD.log.


Deploy

Este log mostra se cada arquivo.war (pasta webapps) foi corretamente carregado na memória do sevidor (deploy) ou se ocorreram erros que impediram o deploy.

Os erros mais comuns são:

  • Falta de espaço em disco
  • Arquivo.war está corrompido


Negócio

Neste mesmo log pode-se identificar as requisições realizadas pela camada de tela (Frontend) ao Appserver/PASOE (backend). Ex:

14-Apr-2023 17:11:16.225 INFO [datasul-exec-404] com.totvs.framework.rest.connector.APIDatasulConnector.processRequest TOTVS-REST API-DATASUL: Conectando appserver
14-Apr-2023 17:11:16.225 INFO [datasul-exec-404] com.totvs.framework.progress.connector.ProgressConnectionManager.getConnection Buscando conexao atual. companyId=120, userName=super, xTotvsApp=, xTotvsAlias=null, dbHistId=null, programName=hpr/api/v1/modalities, programType=api, appServer=null
14-Apr-2023 17:11:16.225 INFO [datasul-exec-404] com.totvs.framework.progress.connector.ProgressConnectionManager.createConnection TOTVS-PROGRESS: Builded URL connection: http://cxs-squad-sus01:8825/apsv
14-Apr-2023 17:11:16.225 INFO [datasul-exec-404] com.totvs.framework.progress.connector.ProgressConnectionManager.getConnection Realizada conexao em (0ms)
14-Apr-2023 17:11:16.241 INFO [datasul-exec-404] com.totvs.framework.progress.connector.ProgressConnectionManager.getConnection Iniciando autenticacao
14-Apr-2023 17:11:16.304 INFO [datasul-exec-404] com.totvs.framework.progress.connector.ProgressConnectionManager.authenticate Registrou log de execucao em: 16 ms 
14-Apr-2023 17:11:16.304 INFO [datasul-exec-404] com.totvs.framework.progress.connector.ProgressConnectionManager.getConnection Autenticado em: (63ms)
14-Apr-2023 17:11:16.304 INFO [datasul-exec-404] com.totvs.framework.rest.connector.APIDatasulConnector.callProgressProgram Executado o programa progress : hpr/api/v1/modalities
14-Apr-2023 17:11:16.366 INFO [datasul-exec-404] com.totvs.framework.rest.connector.APIDatasulConnector.callProgressProgram Retorno do JSON do programa Progress: hpr/api/v1/modalities
14-Apr-2023 17:11:16.382 INFO [datasul-exec-404] com.totvs.framework.rest.connector.APIDatasulConnector.processRequest TOTVS-REST API-DATASUL: Retorno em (157ms)


Appserver/PASOE

No log do Appserver/PASOE é possível cruzar o trecho de log acima (frontend) com o backend que foi chamado:

2023-04-14T17:11:16.288-0300 020972 050324 2 AS-27 ?:?:? 4GLTRACE       Run utp/ut-logexecapi.p "hpr/api/v1/modalities api" [registerLogExec - fwk/rest/authProgressApp.p @ 998]
2023-04-14T17:11:16.304-0300 020972 050324 2 AS-27 ?:?:? FILEID         Open \\cxs-gcad-rep01\progress_repository\11-5-X-PROGRESS_12\FOUNDATION\utp\ut-logexecapi.r ID=595
2023-04-14T17:11:16.304-0300 020972 050324 2 AS-27 ?:?:? FILEID         Close \\cxs-gcad-rep01\progress_repository\11-5-X-PROGRESS_12\FOUNDATION\utp\ut-logexecapi.r ID=595
2023-04-14T17:11:16.304-0300 020972 050324 3 AS-27 ?:?:? 4GLTRACE       Return from Main Block [utp/ut-logexecapi.p]
2023-04-14T17:11:16.304-0300 020972 050324 3 AS-27 ?:?:? 4GLTRACE       Return from registerLogExec [fwk/rest/authProgressApp.p]
2023-04-14T17:11:16.304-0300 020972 050324 3 AS-27 ?:?:? AS -- TRACE: Internal Procedure (Proxy 2) END SUCCESS.
2023-04-14T17:11:16.304-0300 020972 050324 4 AS-27 ?:?:? AS -- TRACE: cso4GL: In execProc() - successful execution. (8458)
2023-04-14T17:11:16.304-0300 020972 050324 4 AS-27 ?:?:? AS -- TRACE: cso4GL: In execCall() - execProc() success. (8458)
2023-04-14T17:11:16.304-0300 020972 032564 3 AS-27 ?:?:? AS -- TRACE: PERSISTENT Procedure 'hpr/api/v1/modalities' START (Proxy 3).
2023-04-14T17:11:16.304-0300 020972 032564 2 AS-27 ?:?:? FILEID         Open \\cxs-gcad-rep01\progress_repository\11-5-X-PROGRESS_12\GESTAO-PLANOS\hpr\api\v1\modalities.r ID=595
2023-04-14T17:11:16.319-0300 020972 032564 2 AS-27 ?:?:? FILEID         Close \\cxs-gcad-rep01\progress_repository\11-5-X-PROGRESS_12\GESTAO-PLANOS\hpr\api\v1\modalities.r ID=595
2023-04-14T17:11:16.319-0300 020972 032564 4 AS-27 ?:?:? AS -- TRACE: cso4GL: In execProc() - before execution. (8458)
2023-04-14T17:11:16.319-0300 020972 032564 2 AS-27 ?:?:? 4GLTRACE       Run mycast [Main Block - hpr/api/v1/modalities @ 69]
2023-04-14T17:11:16.319-0300 020972 032564 3 AS-27 ?:?:? 4GLTRACE       Return from myCast [hpr/api/v1/modalities]
2023-04-14T17:11:16.319-0300 020972 032564 2 AS-27 ?:?:? 4GLTRACE       Run fwk/auth/endpointSecurityServices.p PERSIST [Main Block - hpr/api/v1/modalities @ 76]
2023-04-14T17:11:16.319-0300 020972 032564 2 AS-27 ?:?:? FILEID         Open \\cxs-gcad-rep01\progress_repository\11-5-X-PROGRESS_12\FOUNDATION\fwk\auth\endpointSecurityServices.r ID=595
2023-04-14T17:11:16.319-0300 020972 032564 2 AS-27 ?:?:? FILEID         Close \\cxs-gcad-rep01\progress_repository\11-5-X-PROGRESS_12\FOUNDATION\fwk\auth\endpointSecurityServices.r ID=595
2023-04-14T17:11:16.319-0300 020972 032564 3 AS-27 ?:?:? 4GLTRACE       Return from Main Block [fwk/auth/endpointSecurityServices.p]
2023-04-14T17:11:16.319-0300 020972 032564 2 AS-27 ?:?:? 4GLTRACE       Run verifyEndpointAccess2 in fwk/auth/endpointSecurityServices.p "/dts/datasul-rest/resources/prg/hpr/v1/modalities/" [Main Block - hpr/api/v1/modalities @ 78]
2023-04-14T17:11:16.319-0300 020972 032564 3 AS-27 ?:?:? 4GLTRACE       Return from verifyEndpointAccess2 "yes" [fwk/auth/endpointSecurityServices.p]


Riscos de enviar arquivos.war ao cliente

Assim como qualquer programa Progress enviado ao cliente de forma "avulsa", um arquivo.war também corre riscos de desestabilização de processos.

Quando ocorrer esta necessidade, sempre ter em mente:

  • O arquivo.war pode fazer chamadas ao backend com parâmetros pré-definidos. Se algum parâmetro estiver diferente, causará falha de comunicação.
  • O arquivo.war pode conter diversas aplicações. Logo, ao enviar o arquivo para contorno de um problema em específico, outras aplicações podem ser afetadas como efeito colateral.
    • Nestes casos, ao invés de realizar o build do .war e enviá-lo ao cliente, pode ser mais prudente baixar o .war que o cliente já possui (patch), editá-lo apenas com a alteração necessária, zipar novamente e enviar este resultado, para minimizar impactos.


Datasul com banco de dados Oracle (Schema Holder)

O queComoPor queComo
Checar open_cursorsExecutar em uma sessão conectada ao

Cada conexão a um banco de dados no Oracle consome uma sessão, que fica aberta durante todo o escopo do programa.

Isto se aplica tanto para usuários que abrem tela GUI (tela Progress) como Agentes de Appserver.

Exemplos:

  • Se o Datasul está configurado com 10 bancos e tivermos 10 usuários conectados, isso se reflete em 100 sessões.
  • Se somarmos à configuração acima mais 10 agentes de Appserver, chegaremos a 200 sessões.
  • Se um usuário já tem uma sessão em aberto, e ele abrir mais uma sem fechar a anterior, chegaremos a 210 sessões.

Portanto, o número sugerido neste parâmetro é uma configuração que se aplica à grande maioria dos casos, mas deve ser bem dimensionado com clientes com muitos usuários e agentes de Appserver.

Executar em uma sessão conectada ao banco de dados Oracle, com privilégios de administrador:


select * from v$parameter p where p.name in ('open_cursors','processes','sessions')


Se o resultado for inferior a:

open_cursors: 30000
processes: 4000
sessions: 6024

Então os referidos parâmetros devem ser ajustados para esses valores, com os seguintes comandos:

alter system set open_cursors=30000 scope=both sid='*'
, com privilégios de administrador:select * from v$parameter p where p.name in ('open_cursors','processes','sessions')

Se o resultado for inferior a:

open_cursors: 30000
processes: 4000
sessions: 6024

Então os referidos parâmetros devem ser ajustados para esses valores, com os seguintes comandos:

alter system set open_cursors=30000 scope=both sid='*';
alter system set processes=4000 scope=spfile;
alter system set sessionsprocesses=60244000 scope=spfile;

Obs: o listener do Oracle deve ser reiniciado para que as  alterações tenham efeito.

Detalhes no item 28 do guia de instalação: Tutorial_de_Instalação_do_TOTVS_12_Oracle

Cada conexão a um banco de dados no Oracle consome uma sessão, que fica aberta durante todo o escopo do programa.

Isto se aplica tanto para usuários que abrem tela GUI (tela Progress) como Agentes de Appserver.

Exemplos:

  • Se o Datasul está configurado com 10 bancos e tivermos 10 usuários conectados, isso se reflete em 100 sessões.
  • Se somarmos à configuração acima mais 10 agentes de Appserver, chegaremos a 200 sessões.
  • Se um usuário já tem uma sessão em aberto, e ele abrir mais uma sem fechar a anterior, chegaremos a 210 sessões.

alter system set sessions=6024 scope=spfile;

Obs: o listener do Oracle deve ser reiniciado para que as  alterações tenham efeito.



Detalhes no item 28 do guia de instalação: Tutorial_de_Instalação_do_TOTVS_12_Oracle

Portanto, o número sugerido neste parâmetro é uma configuração que se aplica à grande maioria dos casos, mas deve ser bem dimensionado com clientes com muitos usuários e agentes de Appserver.

Checar o -c no .pf

No arquivo.pf de conexão aos bancos de dados, conferir o valor do parâmetro -c, que não deve ser inferior a:

-c 10000


Exemplo da linha completa:

-db \\cxs-gcad-rep01\schemaholder\shemsfnd -ld shemsfnd -RO -db emsfnd -ld emsfnd -U susemsfnd/susemsfnd@squad -c 10000 


Atenção para refletir os ajustes de .pf também na tabela EMSFND.BCO_EMPRES


Autorizador Web e Foundation Saúde (Jboss)

O queComoPor queComo
Pool Configurações do pool Appserver x Jboss (Apenas para Progress 11 com Appserver clássico)Caso as configurações do pool não estejam compatíveis nas duas pontas (Appserver e Jboss), a aplicação apresentará instabilidades.

Checar se as parametrizações do pool de agentes do Appserver estão compatíveis com as configurações do Jboss.

No

Appserver - entrar no Progress OpenEdge Explorer (http://<seu_servidor>:9090):

Checar nas propriedades do Broker qual é o Operating Mode que está configurado. O recomendado é State-resetstateless:
Image RemovedImage Added

Checar nas propriedades do Agent o valor do campo Maximum servers:  
Image RemovedImage Added



No Jboss - editar o arquivo: .../<pasta_instalacao_jboss>/server/<instance>/conf/datasul/datasul_framework.properties:

Verificar os seguintes campos:

progress.server.mode=21 

21 equivale a State-reset (conforme recomendado acima para o Appserver). Se o Appserver for StatelessStateless (este é o valor default). Seu valor deve estar compatível com o Operating Mode do Appserver (acima).  for State-reset, então trocar para 12.



progress.server.maxconnections=1510

o número aqui deve ser igual ao Maximum servers do Appserver (conforme visto acima).


Obs: Tanto Appserver como Jboss devem ser reiniciados , caso alguns algum dos parâmetros for seja alterado.

Referência: Documentação "datasul_framework.properties" 


Geral

O queComoPor que
Checar quantidade de processadores

Verificar o número de processadores virtuais da máquina.

Se for Windows, pode ser verificado pelo Task Manager: 


Em situações com apenas 1 ou 2 processadores, já presenciamos o cenário de o cliente possuir diversos agentes de Appserver, mas a CPU não dar conta de executar processos em paralelo.

Como efeito, 2 a 3 agentes acabam consumindo 100% de CPU, causando enfileiramento das atividades, e lentidão na percepção do usuário.


Recomenda-se que um servidor de Produção tenha ao menos 16 processadores.