Metoden bygger på att varje användare har två nycklar i form av serier om tusentals tecken med ett invecklat matematiskt samband. Den öppna nyckeln är tillgänglig för alla. Avsändaren krypterar med mottagarens öppna nyckel, inte med sin egen. Den privata nyckeln, som dekrypterar meddelandet, är bara tillgänglig för mottagaren, som i regel inte ens själv känner till eller behöver känna till den. Det går inte att dekryptera med den öppna nyckeln.
En nödvändig del av PKI är betrodda certifieringsorgan - myndigheter, företag eller andra organisationer - som utfärdar och upprätthåller certifikat. Ett certifikat är ett dataformat och en metod att distribuera öppna nycklar.
Certifieringsorganet garanterar att en viss person har ett visst nyckelpar med en öppen och en privat nyckel. Därför måste certifieringsorganet ha säkra rutiner för kontroll av identiteten hos de personer det utfärdar certifikat åt. Likaså rutiner för att återkalla certifikat och föra upp dem på spärrlista, till exempel när någon slutar på ett företag.