Estrategias para performance java

Usar só uma conexão pois cada conexão ao banco de dados é um processo muito demorado, a sugestão seria criar essa conexão na camada de visão e levar ela entre as camadas sempre que precisasse persistir dados.
Só usar collections,array,list com a capacidade inicial determinada.
Criação de índices para todos os critérios utilizados nas buscas, prefirindo sempre os atributos int pois estes são menores e mais fáceis de encontrar o resultado e quando for atributo varchar limitar o índice a pesquisar somente parte dessa string.
Usar serializaçao de objetos fato muito interessante se quiser carregar a listagem do banco de dados somente uma vez e usar arquivos de texto depois